Google cấm các nhà quảng cáo quảng bá dịch vụ tạo nội dung khiêu dâm deepfake

Google đã có lệnh cấm từ lâu đối với các quảng cáo khiêu dâm - nhưng cho đến nay, công ty vẫn chưa cấm các nhà quảng cáo quảng bá những dịch vụ mà mọi người có thể sử dụng để tạo nội dung khiêu dâm và khỏa thân bằng deepfake. Nhưng điều đó sắp thay đổi.

Google hiện cấm các nhà quảng cáo quảng bá “nội dung khiêu dâm”, được định nghĩa là “văn bản, hình ảnh, âm thanh hoặc video về các hành vi tình dục bằng hình ảnh nhằm mục đích kích thích”. Chính sách mới hiện cấm quảng cáo các dịch vụ giúp người dùng tạo loại nội dung đó, cho dù bằng cách thay đổi hình ảnh của một người hay tạo hình ảnh mới.

Thay đổi sẽ có hiệu lực vào ngày 30 tháng 5, cấm “quảng bá nội dung tổng hợp đã bị thay đổi hoặc tạo ra để mang tính khiêu dâm hoặc chứa ảnh khoả thân”, chẳng hạn như các trang web và ứng dụng hướng dẫn mọi người cách tạo nội dung khiêu dâm deepfake.

Người phát ngôn của Google, Michael Aciman, nói với The Verge: “Bản cập nhật này nhằm đến việc cấm rõ ràng các quảng cáo cho những dịch vụ cung cấp nội dung khiêu dâm giả mạo hoặc nội dung khỏa thân tổng hợp”.

Ông Aciman cho biết bất kỳ quảng cáo nào vi phạm chính sách của Google sẽ bị xóa, đồng thời bổ sung rằng công ty sử dụng kết hợp đánh giá của con người và hệ thống tự động để thực thi các chính sách đó. Theo Báo cáo an toàn quảng cáo hàng năm của công ty, vào năm 2023, Google đã xóa hơn 1,8 tỷ quảng cáo vi phạm chính sách về nội dung khiêu dâm.

Sự thay đổi này lần đầu tiên được báo cáo bởi 404 Media. Như 404 lưu ý, mặc dù Google đã cấm quảng cáo nội dung khiêu dâm, nhưng một số ứng dụng tạo điều kiện cho việc tạo nội dung khiêu dâm deepfake đã tìm cách lách luật bằng cách tự quảng cáo mình là phi tình dục trên quảng cáo của Google hoặc trong Google Play Store. Ví dụ, ứng dụng hoán đổi một khuôn mặt không tự quảng cáo là khiêu dâm trên Google Play Store nhưng lại làm như vậy trên các trang web khiêu dâm.

Nội dung khiêu dâm deepfake không có sự đồng thuận đã trở thành một vấn đề dai dẳng trong những năm gần đây. Hai học sinh trung học ở Florida đã bị bắt vào tháng 12 năm ngoái vì bị cáo buộc tạo ra những bức ảnh khỏa thân bằng AI cho các bạn cùng lớp. Chỉ trong tuần này, một người đàn ông 57 tuổi ở Pittsburgh đã bị kết án hơn 14 năm tù vì sở hữu tài liệu lạm dụng tình dục trẻ em giả mạo. Năm ngoái, FBI đã đưa ra lời khuyên về sự gia tăng các âm mưu tống tiền liên quan đến việc đe dọa mọi người bằng ảnh khỏa thân do AI tạo ra. Trong khi nhiều mô hình AI gây khó khăn đối với người dùng khi tạo ảnh khỏa thân bằng AI, thì một số dịch vụ lại cho phép người dùng tạo nội dung khiêu dâm.

Có thể sẽ sớm có hành động lập pháp đối với nội dung khiêu dâm deepfake. Tháng trước, Hạ viện và Thượng viện đã đưa ra Đạo luật DEFIANCE, đạo luật này sẽ thiết lập một quy trình mà qua đó nạn nhân của “giả mạo kỹ thuật số” có thể kiện những người tạo ra hoặc phân phối các phiên bản deepfake vô căn cứ về họ.