Hình ảnh vệ tinh deepfake do AI tạo ra gây "náo loạn" về địa lý

Không những hình ảnh deepfake về con người trở thành mối đe dọa mà những hình ảnh vệ tinh deepfake vệ tinh cũng rơi vào tình trạng như vậy. Theo The Verge, các chuyên gia địa lý thuộc Đại học Washington đã có những nghiên cứu để phát hiện các hình ảnh deepfake.

Bo Zhao, trợ lý giáo sư địa lý thuộc Đại học Washington, cùng các đồng nghiệp đã dùng một thuật toán AI để tạo ra các deepfake bằng cách đưa các đặc điểm của các hình ảnh vệ tinh của khu vực này vào các khu vực khác nhau.

Trong ví dụ dưới đây, vùng lân cận Tacoma được hiển thị trong phần mềm lập bản đồ (trên cùng bên trái) và trong ảnh vệ tinh (trên cùng bên phải). Các hình ảnh vệ tinh deepfake tiếp theo của cùng một khu phố phản ánh các mô hình trực quan của Seattle và Bắc Kinh. Các tòa nhà thấp tầng và cây xanh đánh dấu phiên bản Tacoma “được Seattle hóa” ở phía dưới bên trái, trong khi các tòa nhà cao hơn của Bắc Kinh được AI khớp với cấu trúc tòa nhà trong hình ảnh Tacoma ở dưới cùng bên phải. Tất cả hình ảnh đều có đường và vị trí xây dựng tương tự nhau.

Hình ảnh vệ tinh deepfake khu vực Tamoca.
Hình ảnh vệ tinh deepfake khu vực Tamoca.

Mặc dù quá trình thực hiện không hoàn hảo, nhưng điều này đủ để làm sáng tỏ độ tin cậy tuyệt đối vào các hình ảnh vệ tinh và nâng cao nhận thức của cộng đồng về ảnh hưởng tiềm tàng của deepfake.

“Trong khi nhiều người thực hành hệ thống thông tin địa lý (GIS) đã tôn vinh thành tích kỹ thuật của deepfake và các loại AI khác để giải quyết vấn đề địa lý, một số ít đã công khai hoặc chỉ trích các mối đe dọa tiềm ẩn của nó đối với lĩnh vực địa lý hoặc nhiều lĩnh vực khác” - The Verge trích bài viết của nhóm nghiên cứu.

Thực tế, có rất ít nghi ngờ rằng những deepfake do AI tạo ra là để đưa thông tin sai lệch. Một quốc gia thù địch có thể gửi những hình ảnh giả để đánh lừa các nhà chiến lược quân sự với mục đích không để họ nhận ra có một tòa nhà hoặc một cây cầu đã bị biến mất. Không chỉ trong quân sự, vấn đề này còn ảnh hưởng đến lĩnh vực chính trị, giúp che giấu tội ác hoặc các ảnh hưởng của khoa học khí hậu.

Vào năm 2019, quân đội Mỹ đã cảnh báo về viễn cảnh này. Todd Myers, nhà phân tích tại Cơ quan tình báo Không gian địa lý Quốc gia, đã hình dung ra một kịch bản mà trong đó phần mềm lập kế hoạch quân sự bị đánh lừa bởi dữ liệu giả, có thể đặt cây cầu ở một vị trí không chính xác.

Các nhà nghiên cứu hy vọng công trình này sẽ giúp phát triển một hệ thống nhằm “tóm” được hình ảnh vệ tinh deepfake giống như cách mà các chuyên gia đã tạo ra để phát hiện các hành vi giả mạo của con người.

Thứ Năm, 29/04/2021 11:47
51 👨 585
0 Bình luận
Sắp xếp theo