Sau khi máy ảnh ra đời, ảnh chụp ghi chân thực mọi thứ xung quanh ở thời khắc bấm nút nên luôn được coi là bằng chứng đáng tin cậy. Thậm chí, đôi khi con người đặt niềm tin vào nhiếp ảnh sâu sắc đến mức đa số tin vào sự bất hợp lý trong ảnh mà bỏ qua tính xác thực của nó ví dụ như tấm hình chụp linh hồn từ thời Victoria (nửa cuối thế kỷ 19, đầu thế kỷ 20) hay quái vật hồ Loch Ness.
Tính bảo chứng sự thật của hình ảnh phai nhạt trong thời đại bùng nổ kỹ thuật số. Với sự xuất hiện của phần mềm chỉnh sửa, cảnh được dàn dựng với hiệu ứng, các bức ảnh bị can thiệp dễ dàng được lan truyền kèm thông tin sai sự thật nhưng khó để xác định bởi đòi hỏi kiến thức chuyên môn, công cụ chuyên dụng phân tích.
Thông thường, một phần mềm chỉnh sửa đòi hỏi người am hiểu mới có thể sử dụng nhưng vài năm gần đây, với sự xuất hiện của AI, bất kỳ ai cũng có thể tạo ảnh giả với độ chân thực không kém "chuyên gia Photoshop" chỉ mất vài phút.
Biên tập viên Sarah Jeong của The Verge, cho biết cô chỉ mất 10 giây để tạo một ảnh giả bằng công cụ Reimagine trong phần mềm Magic Editor trên Google Pixel 9.
Trước thời AI, những người làm truyền thông như Sarah Jeong khi làm việc phải luôn xem xét kỹ mọi chi tiết, nguồn gốc của tấm hình, kiểm tra bối cảnh hoặc bất kỳ thao tác chỉnh sửa nào. Nhưng bây giờ, bất kỳ ai cũng có thể tạo ảnh giả, thông tin giả dễ dàng nên công việc đó càng khó khăn hơn nhiều.
AI tạo sinh dần phổ biến trong các smartphone không chỉ các model cao cấp mà còn cận cao cấp, sắp tới là tầm trung và giá rẻ. Việc người dùng tiếp cận smartphone AI dễ dàng khiến mối lo ngại tăng nhanh.
Những hành vi ngăn chặn ảnh giả tạo bởi AI hiện rất sơ sài khi trên mạng xã hội. Các hãng chỉ mới đưa ra tiêu chuẩn phải "đóng dấu" sản phẩm tạo bởi AI, các watermark hoặc chú thích rất nhỏ đi kèm bài viết. Nhưng tất cả đều dễ dàng loại bỏ bằng các công cụ khác.