Instagram sử dụng AI để phát hiện thanh thiếu niên nói dối tuổi và tự động chuyển sang tài khoản bị hạn chế

Theo báo cáo mới của Bloomberg, Meta sẽ sử dụng AI để dự đoán độ tuổi của người dùng Instagram và tự động chuyển bất kỳ ai dưới 18 tuổi sang tài khoản thanh thiếu niên nếu công cụ này tin rằng họ đang nói dối về độ tuổi của mình.

Sau làn sóng phản đối trên toàn quốc về tác động của các nền tảng mạng xã hội như Instagram và Facebook đối với sức khỏe tâm thần của thanh thiếu niên, Meta đã giới thiệu tài khoản thanh thiếu niên vào tháng 9. Tài khoản thanh thiếu niên dành cho trẻ em từ 13 đến 17 tuổi có giới hạn tích hợp về những người có thể liên hệ và nội dung họ có thể xem. Chúng được tự động thiết lập để ẩn các bình luận và yêu cầu tin nhắn có khả năng gây khó chịu.

Tài khoản an toàn dành cho thanh thiếu niên sẽ chỉ hoạt động nếu những người dưới 18 tuổi tự nguyện sử dụng hoặc trung thực về độ tuổi của mình, đó là lý do tại sao Meta đã nghĩ ra một cách để thực thi các tài khoản phù hợp. Công cụ phần mềm độc quyền mà Meta đã phát triển, có tên là 'adult classifier', sẽ đi vào hoạt động trong năm tới và được thiết kế để phân loại người dùng thành hai nhóm: Dưới hoặc trên 18 tuổi. Theo Allison Hartnet, giám đốc quản lý sản phẩm dành cho thanh thiếu niên và tác động xã hội của Meta, công cụ này sẽ quét profile người dùng, nội dung họ tương tác và danh sách người theo dõi để xác định độ tuổi của họ. Ngay cả những tin nhắn "chúc mừng sinh nhật" vô hại cũng có thể được sử dụng để giúp xác định độ tuổi thực của người dùng.

Vì tài khoản thanh thiếu niên là tài khoản mới và hiện đang tự nguyện nên có một lượng lớn người dùng thanh thiếu niên trên Instagram vẫn sử dụng tài khoản người lớn thông thường. Meta có kế hoạch bắt đầu chuyển những thanh thiếu niên đã tự nguyện cung cấp thông tin độ tuổi của mình sang các tài khoản thanh thiếu niên mới rất sớm và giới thiệu 'adult classifier' vào đầu năm sau.

• Instagram và Messenger chặn người dưới 18 tuổi nhận tin nhắn từ người lạ

Động thái này là nỗ lực mới nhất của Meta nhằm khắc phục một số phản ứng dữ dội của công chúng về tác động của mạng xã hội đối với thanh thiếu niên. Năm 2021, một báo cáo được công bố trên Tạp chí Phố Wall cho thấy các báo cáo của Meta chỉ ra rằng họ biết Instagram có hại cho sức khỏe tâm thần của thanh thiếu niên, đặc biệt là các bé gái tuổi teen. "Chúng tôi khiến vấn đề về hình ảnh cơ thể trở nên tồi tệ hơn đối với một trong ba bé gái tuổi teen", một slide trích từ báo cáo của chính Meta năm 2019 cho biết.