Lấy độc trị độc, Facebook xây dựng bot AI mô phỏng hành vi xấu của người dùng

Kyr Doo-Hyun

Các kỹ sư của Facebook vừa phát triển một phương pháp mới giúp họ xác định và ngăn chặn những hành vi gây hại như phát tán thư rác, lừa đảo hoặc mua bán vũ khí, ma túy, động vật hoang dã một cách dễ dàng và hiệu quả hơn. Với phương châm lấy độc trị độc, Facebook thiết kế ra các bot AI mô phỏng hành vi của các đối tượng xấu trên một phiên bản Facebook chạy song song với bản chính thức. Tại đây, các con bot xấu được thả lỏng, tự do hoạt động sau đó các nhà nghiên cứu sẽ theo dõi hành vi của chúng và thử nghiệm các phương thức ngăn chặn.

Nền tảng giả lập này được Facebook gọi là WW (phát âm Dub Dub) và dựa trên chính mã code của Facebook. Thông tin về WW được Facebook hé lộ hồi đầu năm nay và bây giờ công ty tiếp tục chia sẻ thêm một số chi tiết mới.

Facebook xây dựng phiên bản mô phỏng với toàn bot xấu

Chịu trách nhiệm phát triển WW là kỹ sư Mark Harman thuộc bộ phận AI của Facebook tại London, Vương Quốc Anh. Harman cho biết WW là một công cụ cực kỳ linh hoạt, có thể được áp dụng để hạn chế một loạt hành vi gây hại trên Facebook.

WW được phát triển trực tiếp trên mã nguồn của Facebook nên mức độ thực tế cực kỳ cao. Tuy nhiên, phiên bản thử nghiệm được tách biệt hoàn toàn, không ảnh hưởng gì tới phiên bản Facebook chính. Các con bot xấu chỉ có thể tương tác với các con bot "thiện lành" trong phiên bản thử nghiệm.

Hệ thống mô phỏng chạy song song với phiên bản chính thức nhưng được cách ly để bot không can thiệp vào người dùng

Harman còn cho biết rằng tiềm năng của WW là cực kỳ lớn. Hiện tại, các con bot xấu được đào tạo để bắt chước những điều xấu xa đã từng xuất hiện trên Facebook. Nhưng trên lý thuyết, những con bot này có thể thực hiện những hành vi chưa từng thấy trước đây. Đó chính là điều mà Harman và nhóm của anh mong chờ bởi vì Facebook muốn đi trước những kẻ xấu một bước thay vì liên tục phải bám đuổi như hiện tại.

Harman cho biết họ đã theo dõi được những hành vi khá bất ngờ từ các con bot xấu nhưng từ chối chia sẻ chi tiết. Anh nói rằng Facebook không muốn cung cấp cho những đối tượng xấu các mạnh mối để tránh né hệ thống kiểm tra của Facebook.