Công cụ tóm tắt tin tức bằng AI của Facebook có thể trở thành thảm họa

Theo BuzzFeed, Facebook đang thử nghiệm một công cụ AI có tên là TL;DR (viết tắt của Too Long; Didn't Read). Công cụ này sẽ tóm tắt tin tức giúp bạn để bạn không cần nhấp vào tin tức để đọc cả bài.

TL;DR đã được trình diễn trong cuộc họp nội bộ gần đây của Facebook. Bên cạnh đó, Facebook còn muốn bổ sung thêm các tính năng như đọc tin và trợ lý ảo có thể trả lời các truy vấn liên quan tới bài báo cho TL;DR.

Nghe thì có vẻ như đây là một ý tưởng hay bởi nó giúp bạn nắm được vấn đề của một bài báo mà bạn quan tâm nhưng không có thời gian đọc hết. Trên Reddit cũng có một công cụ tương tự mang tên AutoTLDR.

Tuy nhiên, với lịch sử rối rắm của Facebook với mảng tin tức và các mâu thuẫn gần đây với các nhà xuất bản tin tức, nhiều người sợ rằng TL;DR sẽ gây ra thảm họa.

Trong trường hợp nhẹ nhàng nhất, TL;DR mắc những sai lầm ngớ ngẩn trong việc phân tích nội dung bài viết. Vì thế, bạn không thể hiểu được phần tóm tắt mà nó đưa ra. Nhiều AI đã từng mắc lỗi tương tự khi đưa ra những nội dung vô nghĩa hoặc phân biệt chủng tộc.

Trường hợp xấu hơn là TL;DR tạo ra hoặc phát tán thông tin sai lệch. Có rất nhiều nguồn tin trên Facebook không đưa tin chính xác. Nếu TL;DR tóm tắt nội dung của một tin tức giả và phát tán nó khắp nơi thì nhiều rắc rối sẽ xảy ra.

Facebook cũng cần đào tạo AI của mình một thuật toán để không tách những câu trích dẫn ra khỏi ngữ cảnh. Khi tách trích dẫn ra khỏi ngữ cảnh, một bản tóm tắt trông như chẳng có vấn đề gì đôi khi lại mang ý nghĩa trái ngược với bài báo hoặc chủ đề hoặc ngược lại.

Trong quá khứ, các nhà nghiên cứu đã đánh lừa được AI bằng cách thêm vào các bình luận xấu độc trên internet các câu từ tích cực hoặc thay đổi cách viết từ. Nếu có thể bẻ khóa được thuật toán tóm tắt nội dung của Facebook, kẻ xấu sẽ tìm ra cách để thêm thông điệp chúng muốn truyền bá vào bản tóm tắt.

Nhiều báo cáo chỉ ra rằng chính sự kém cỏi trong thiết kế phần mềm đã khiến thông tin sai lệch lan truyền mạnh mẽ trên mạng xã hội. Mặc dù TL;DR của Facebook chưa ra mắt nhưng nhiều khả năng nó sẽ là một thảm họa.