Facebook sử dụng AI để chủ động lọc các nội dung khiêu dâm có chủ đích

Facebook đã tiết lộ nỗ lực mới nhất của mình nhằm kiềm chế sự lan truyền của những hành vi “khiêu dâm có chủ đích” trên trang mạng xã hội lớn nhất hành tinh này.

Cụm từ “khiêu dâm có chủ đích” mang ý nghĩa khá rộng, tuy nhiên trong trường hợp này có thể hiểu nôm na rằng đó là một hành vi đăng tải công khai những hình ảnh hoặc video thân mật mà không có sự đồng ý của những chủ thể góp mặt trong những hình ảnh hoặc video đó. Trên thực tế, hình thức “khiêu dâm có chủ đích” này đang ngày một xuất hiện tràn lan trên internet nói chung và các ứng dụng kết bạn, nhắn tin, mạng xã hội nói riêng do sự phổ biến của smartphone và số lượng người dùng các nền tảng này ngày càng gia tăng nhanh chóng. Mặc dù nhiều quốc gia hiện sở hữu những đạo luật đặc biệt để giải quyết các vấn đề về khiêu dâm trên không gian mạng, nhưng điều đó có vẻ như vẫn không thể ngăn cản hành vi này xảy ra, đặc biệt là khi khâu rà soát, kiểm tra bước đầu vẫn chưa thể đáp ứng được yêu cầu. Và quan trọng là cho đến khi một hình ảnh, nội dung “thân mật” mang tính riêng tư chia sẻ trái phép bị trừng phạt bởi pháp luật, thì thiệt hại mà nạn nhân phải gánh chịu đã là quá lớn mất rồi!

• Facebook chính thức bị truy tố hình sự vì tội danh bán dữ liệu trái phép

Giống như một số công ty công nghệ khác, Facebook đã giới thiệu một vài công cụ để giải quyết vấn đề khiêu dâm có chủ đích trong nhiều năm qua. Quay trở lại năm 2017, Facebook đã ra mắt tính năng Report (báo cáo) mới để giúp người dùng có thể báo cáo những nội dung thân mật quá mức được chia sẻ trên Facebook, Messenger hoặc Instagram một cách dễ dàng hơn. Vào thời điểm đó, trang mạng xã hội này cũng nói rằng họ sẽ sử dụng công nghệ nhận dạng hình ảnh để đảm bảo rằng một bức ảnh được phát hiện là khiêu dâm có chủ đích sẽ không thể được chia sẻ lại trong tương lai.

Sau đó, Facebook cũng đã cho phép người dùng của mình thực hiện một cách tiếp cận chủ động hơn trong vấn đề này thông qua việc gửi một bản sao kỹ thuật số của hình ảnh để giúp Facebook tự động chặn mọi nỗ lực chia sẻ công khai lại hình ảnh này trong tương lai. Tuy nhiên như vậy vẫn là chưa đủ, đây vẫn chỉ là những biện pháp khắc phục mang tính bị động, Facebook cần một công cụ nào đó mang tính chủ động hơn trong cả khâu ngăn chặn cũng như xử lý, và AI có lẽ sẽ là công nghệ phù hợp.

• Facebook xác nhận sự cố sập mạng toàn cầu là do thay đổi cấu hình máy chủ, vẫn chưa khắc phục xong

Với nỗ lực mới nhất của mình, Facebook đang cố gắng giảm thiểu tối đa thiệt hại cho các nạn nhân của hành vi khiêu dâm có chủ đích bằng cách chủ động phát hiện sớm những hình ảnh, video khỏa thân hoặc bán khỏa thân bị chia sẻ mà không được phép của chủ thể trên Facebook hoặc Instagram.

“Như vậy nghĩa là chúng ta sẽ có thể tìm thấy những nội dung sai phạm này trước khi nó kịp tiếp cận với cộng đồng, điều này rất quan trọng bởi 2 lý do: Thứ nhất, thông thường nạn nhân sợ bị trả thù nên họ miễn cưỡng tự báo cáo nội dung. Thứ hai, họ hoàn toàn không hề biết nội dung khiêu dâm liên quan đến mình đã bị chia sẻ”, Antigone Davis, người đứng đầu bộ phận an ninh toàn cầu của Facebook, cho biết trong một bài đăng trên blog.

Cụ thể hơn, ứng dụng học máy thông minh của Facebook sẽ đánh dấu những nội dung trực quan mà nó nghĩ có thể cấu thành nên một hành vi khiêu dâm có chủ đích, và chuyển đến cho nhân viên của Facebook để xem xét nội dung đó.

“Nếu hình ảnh hoặc video đó vi phạm vào các tiêu chuẩn cộng đồng của Facebook, chúng tôi sẽ ngay lập tức xóa nó và trong hầu hết các trường hợp, chúng tôi cũng sẽ vô hiệu hóa những tài khoản đã chia sẻ nội dung “thân mật” mà không được phép. Tất nhiên người dùng cũng có thể gửi yêu cầu kháng nghị nếu họ cho rằng Facebook đã nhận định sai vấn đề, và chúng tôi cũng rất hoan nghênh điều đó”, ông Antigone Davis chia sẻ thêm.

• Facebook có tính năng thanh toán trực tuyến trên iOS và Android, đang thử nghiệm

Ngoài công nghệ tự động phát hiện sai phạm mới, Facebook cũng đã quyết định ra mắt một trung tâm hỗ trợ có tên Not Without My Consent, phục vụ một loạt các công cụ và tài nguyên liên quan nhằm kiểm soát các nội dung khiêu dâm xuất hiện trên mạng xã hội này.

Có một thực tế không phải bàn cãi là Facebook không thể quản lý vi mô từng phần đối với những nội dung được chia sẻ trên nền tảng của mình, và đó là lý do tại sao trí tuệ nhân tạo (AI) đóng một phần ngày càng quan trọng trong các nỗ lực kiểm duyệt nội dung, không chỉ trên Facebook mà còn trên tất cả các nền tảng ứng dụng cộng đồng khác. Tuy nhiên, trong nhiều năm qua, Facebook cũng đã gây ra không ít tranh cãi về cách thức các thuật toán của họ đánh giá và quyết định xem nội dung nào có thể được tiếp cận với cộng đồng và nội dung nào sẽ bị chặn. Có một tình huống cụ thể như sau: Facebook đã xóa bức ảnh “napalm girl” (cô gái napalm - một bức ảnh nổi tiếng đoạt giải Pulitzer với nội dung về một bé gái không mặc quần áo đang chạy trốn khỏi một vụ nổ bom napalm trong Chiến tranh Việt Nam), bởi thuật toán của Facebook cho rằng đây là một hình ảnh khỏa thân vi phạm tiêu chuẩn cộng đồng và cấm chia sẻ hình ảnh này. Cũng trong cùng năm đó, Facebook cũng đã phải ra hầu tòa bởi vụ kiện từ một cô bé 14 tuổi có ảnh khỏa thân xuất hiện trên mạng xã hội này.

• Đây là giao diện mới toàn màu trắng của ứng dụng Facebook trên Android, đang được thử nghiệm

Mặc dù các trường hợp kể trên phần nào cho thấy sự không hoàn hảo trong thuật toán kiểm duyệt tự động của Facebook, nhưng chúng đồng thời cũng cho thấy rằng mạng xã hội này đang thực sự “sa lầy” một cuộc chiến đầy khó khăn nhằm cứu vãn danh tiếng của mình sau một năm đầy rẫy những vụ bê bối về quyền riêng tư. Và mặc dù CEO Mark Zuckerberg đã tiết lộ gần đây rằng công ty sẽ theo đuổi cách tiếp cận theo hướng ưu tiên tối đa cho quyền riêng tư của người dùng trong tương lai, nhưng hầu hết mọi người vẫn tỏ ra nghi ngờ trước những chính sách của Facebook.