X (Twitter) tạm thời chặn tìm kiếm Taylor Swift do phát hiện quá nhiều ảnh AI deepfake nhạy cảm

Đầu tuần trước, một số lượng lớn hình ảnh deepfake của ca sĩ nhạc pop Taylor Swift do AI tạo ra đã bất ngờ xuất hiện tràn ngập trên X (Twitter). Hầu hết trong số này đều là những bức ảnh có nội dung tục tĩu, nhạy cảm, gây ảnh hưởng nghiêm trọng đến uy tín của nữ nghệ sĩ, đồng thời càng làm tăng thêm nỗi lo ngại về xu hướng lạm dụng AI cho mục đích xấu trên internet.

Vụ việc nghiêm trọng đến mức mạng xã hội X đã lên tiếng xác nhận đang thực hiện một động thái chưa từng có tiền lệ, đó là tìm kiếm đối với những từ khóa liên quan đến Taylor Swift bắt đầu từ hôm thứ Bảy, nhằm hạn chế sự lan truyền như vũ bão của tin giả.

Tờ Wall Street Journal đã nhận được thông báo xác thực về quyết định này từ người đứng đầu hoạt động kinh doanh của X, giám đốc Joe Benarroch:

Đây là hành động tạm thời và được thực hiện hết sức thận trọng, vì chúng tôi ưu tiên sự an toàn của người dùng trong vấn đề này.

Trước đó, vào ngày 26-1, một hình ảnh deepfake với tư thế khiêu dâm được thuật toán AI cắt ghép dựa trên khuôn mặt của Taylor Swift lan truyền chóng mặt trên các nền tảng mạng xã hội như Telegram, Instagram, Reddit và đặc biệt là X. Cộng đồng fan hâm mộ của nữ ca sĩ bày tỏ sự phẫn nộ vì các mạng xã hội đã không kiểm duyệt kỹ các hình ảnh nhạy cảm được đăng tải và chậm chạp trong việc ngăn chặn nó.

Ngoài ra, fan hâm mộ của Taylor Swift cũng đã tích cực báo cáo các tài khoản đã phát tán ảnh giả mạo, nhưng dường như không xuể, khiến X buộc phải thực hiện biện pháp mạnh hơn là chặn từ khóa tìm kiếm. Người dùng trên nền tảng này nếu tìm kiếm cụm từ “Taylor Swift” sẽ thấy hệ thống báo kết quả lỗi.

Trước quyết định của X chặn mọi tìm kiếm liên quan đến Taylor Swift, CEO Satya Nadella của Microsoft đã đưa ra những nhận định về “cơn lũ” hình ảnh giả mạo của nữ ca sĩ do AI tạo ra trong một cuộc phỏng vấn với NBC News. Người đứng đầu Microsoft cho biết:

Đúng, chúng ta phải hành động... Tôi nghĩ tất cả chúng ta đều được hưởng lợi khi thế giới trực tuyến là một thế giới an toàn. Và vì vậy tôi không nghĩ có ai lại muốn một thế giới trực tuyến trở thành một môi trường hỗn loạn và nguy hiểm cho cả người sáng tạo nội dung và người tiêu thụ nội dung. Vì vậy, tôi nghĩ chúng ta cần phải có những biện pháp xử lý nhanh về vấn đề này.

Kết quả điều tra ban đầu cho thấy những bức ảnh deepfake của Taylor Swift lan truyền trên X được tạo ra một phần bởi một nhóm hacker ẩn danh sử dụng Microsoft Designer, một công cụ tạo hình ảnh dựa trên AI tương đối tiên tiến. Việc cắt ghép tinh vi và độ chân thật cao của công nghệ này khiến người xem khó phân biệt thật giả, gây ảnh hưởng xấu đến danh tiếng của người bị nhắm mục tiêu.