16 trang web 'cởi đồ' bằng AI phổ biến trên Internet bị kiện

16 trang web cho phép đăng hình người thật để mô hình AI deepfake tạo ra những tấm ảnh khiêu dâm được coi là có lượng truy cập nhiều nhất, vừa bị văn phòng công tố thành phố San Francisco đệ đơn kiện với mục tiêu đóng cửa những trang web này.

Bà Yvonne Meré, phó chánh án thành phố San Francisco, mẹ của một nữ sinh 16 tuổi, đã đưa ra ý tưởng kiện này sau khi đọc được về thực trạng những cậu học sinh trung học sử dụng hình ảnh những bạn học cùng lớp, đưa lên những trang web tạo deepfake để làm ra những tấm hình khiêu dâm. Nữ công tố viên đã kêu gọi những đồng nghiệp khởi kiện để đóng cửa 16 trang web “lột đồ” bằng deepfake phổ biến nhất.

Theo đơn kiện, 16 trang web này đã có tới 200 triệu lượt truy cập chỉ trong 6 tháng đầu năm 2024. Thậm chí, một trong những trang web này còn đưa ra lời quảng cáo vô cùng táo tợn: “Tốn thời gian mời cô ấy đi hẹn hò làm gì, khi bạn có thể dùng trang web này tạo hình khỏa thân của cô ấy.”

Những mô hình AI vận hành trên những trang web này được huấn luyện từ những hình ảnh khiêu dâm và những hình ảnh mô tả việc lạm dụng tình dục trẻ em. Nếu những tấm hình tạo ra bằng deepfake được lan truyền trên mạng Internet, việc xác định trang web nào đã tạo ra chúng là vô cùng khó khăn.

Theo cáo buộc trong đơn kiện, những trang web này đã vi phạm luật pháp của bang và luật liên bang liên quan tới nội dung khiêu dâm.

Thực trạng deepfake AI bị lạm dụng để tạo hình khỏa thân mà không được sự cho phép của người trong hình đã xuất hiện từ năm 2020 và khiến nạn nhân phải trải qua những điều vô cùng khủng khiếp.

Những cải tiến của công nghệ AI ở thời điểm hiện tại khiến những hình ảnh tạo ra càng lúc càng chân thực đã khiến tình trạng này trở nên nghiêm trọng hơn.

Một con bot trên Telegram được cho là đã tạo ra hơn 100 nghìn tấm hình dựa trên những hình ảnh người dùng đăng tải trên các mạng xã hội.