Dùng deepfake AI giả mạo Ngoại trưởng Ukraine lừa được cả Thượng nghị sĩ Mỹ

Một kẻ mạo danh sử dụng công nghệ deepfake đã giả dạng Ngoại trưởng Ukraine Dmytro Kuleba và đánh lừa được cả Thượng nghị sĩ Ben Cardin, Chủ tịch Ủy ban Đối ngoại Thượng viện Mỹ, theo The New York Times.

Cụ thể, vào thứ Năm tuần trước, một email có vẻ như đến từ Kuleba được gửi tới Thượng nghị sĩ Cardin với yêu cầu ông gặp gỡ trên Zoom.

Trong cuộc gặp gỡ, người ở đầu dây bên kia có ngoại hình và giọng nói giống hệt Kuleba nhưng có nhiều hành động kỳ lạ. Theo một email mà các quan chức an ninh Thượng viện gửi cho các nhà lập pháp, kẻ giả mạo đã đặt cho Cardin những câu hỏi mang tính chính trị, về các vấn đề chính sách đối ngoại.

Cardin cảm thấy nghi ngờ về cuộc trò chuyện và đã báo cáo vụ việc lên Bộ Ngoại giao. Sau khi điều tra, các quan chức tại đây đã xác nhận rằng Cardin không phải đang nói chuyện với Kuleba thật mà là một kẻ mạo danh. Tuy nhiên, hiện họ vẫn chưa xác định được ai đứng sau cuộc gọi.

Các quan chức an ninh Thượng viện đã khuyến cáo các nhà lập pháp cảnh giác với những nỗ lực lừa đảo tương tự và cảnh báo rất có thể những nỗ lực khác tinh vi về mặt kỹ thuật và khả năng tin cậy của nó sẽ được thực hiện trong những tuần tới.

Vụ việc của Thượng nghị sĩ Cardin cho thấy, việc sử dụng deepfake lan truyền thông tin sai lệch và can thiệp bầu cử có nguy cơ ngày càng tăng. Để ngăn chặn và xử lý deepfake, đảm bảo tính toàn vẹn của thông tin và các quy trình dân chủ, các chính phủ và nền tảng truyền thông xã hội cần phải thực hiện các biện pháp mạnh mẽ hơn.

Trước đó đã từng có nhiều vụ lừa đảo bằng Deepfake diễn ra như một công ty đa quốc gia đã mất 200 triệu HKD (25,6 triệu USD) sau khi những kẻ lừa đảo sử dụng deepfake giả mạo nhiều người trong một cuộc hội nghị video hay kẻ lừa đảo dùng video deepfake những người nổi tiếng như Elon Musk để quảng bá và đánh lừa người dùng.