AI của TikTok có khả năng gây nghiện nguy hiểm thế nào?

AI của TikTok được giới chuyên gia đánh giá là toàn diện nhất hiện nay. Nó có được ví như nhà tiên tri kỹ thuật số có thể dẫn dắt bất kỳ ai bởi có thể hiểu người dùng còn hơn chính họ.

TikTok chỉ cần thuật toán có thể biết người dùng cần gì, khám phá từng lớp tâm trí của người dùng từ đó giúp họ giải toả tổn thương thời thơ ấu, thậm chí khám phá những điều chính bản thân họ chưa biết tới, ví dụ như giới tính thật. Trong khi đó, để làm được điều tương tự, Facebook cần yêu cầu người dùng xây dựng cả một trang hồ sơ và cung cấp thông tin cá nhân.

Yếu tố giúp TikTok thành công nằm ở thuật toán đề xuất nội dung For You. Nó giúp cho trang chủ luôn đổi mới để người dùng không thấy nhàm chán mà, giúp luôn đổi mới trang chủ để người dùng bị cuốn vào các video, không thấy nhàm chán.

Các video cuốn hút nhiều người dùng nhất thường có chủ đề về làm vườn, nấu ăn… Nhưng có không ít người đắm chìm trong những video chủ đề về sức khỏe tâm thần như hội chứng tự kỷ hoặc các vấn đề về thần kinh. Bằng chứng là từ khóa #mentalhealth (sức khoẻ tâm thần) trên nền tàng này thu hút được gần 21 tỷ lượt xem. Điều nghiêm trọng là có rất nhiều nội dung giả tâm thần đang được lưu hành trên nền tảng.

Theo giáo sư tâm lý học Inna Kanevsky, thuật toán TikTok đang chuẩn đoán về hội chứng tâm lý cho người dùng và điều này có thể thay đổi cuộc sống của con người. Đây là một điều đáng lo ngại.

AI của Amazon hay Netflix cũng được thiết kế để đoán ý muốn của người dùng để đưa ra những gợi ý phù hợp. Nhưng AI của TikTok lại khác, nó hoạt động như thể sẽ định nghĩa cho người dùng biết họ là ai.

Ngay khi một người lập tài khoản mới, thuật toán sẽ hiển thị hàng loạt video phổ biến để kiểm tra phản ứng của họ với các loại nội dung khác nhau. Chỉ sau 2 giờ, chân dung của người dùng trên nền tảng và những mối quan tâm của họ sẽ được phác họa xong.

John Bargh, giáo sư tâm lý học và khoa học nhận thức tại Đại học Yale, cho biết thuật toán của Tiktok đưa ra các mô hình của thế giới xung quanh cho người dùng để họ tiếp thu kiến thức mới một cách vô thức.

TikTok còn biết cả những bí mật thầm kín nhất của người dùng mà bản thân họ thậm chí còn chưa khám phá ra.

Một người dùng Tiktok tên Joho chia sẻ rằng, các thuật toán biết anh là người song tính trước khi người này hoàn toàn sống thật với giới tính của mình. Anh cho biết, mình bị tác động bởi thuật toán trên TikTok nên đã đưa ra quyết định sống thật với giới tính của mình.

Johannes Eichstaedt, nhà khoa học tại Viện Stanford cho biết, AI của TikTok nguy hiểm đến mức nó sẽ gợi ý cho người dùng những nội dung thay đổi bản thân. Rất may mắn nếu đó là thay đổi theo chiều hướng tích cực, và ngược lại nếu ai đó bị dẫn dắt vào một thế giới mới dưới danh nghĩa "khám phá bản thân".

Tuy nhiên, phân tích tâm lý người dùng chỉ là bước thu thập dữ liệu để Tiktok kiếm tiền mà thôi.

Hoạt động của thuật toán TikTok vẫn là điều bí ẩn. Vào năm 2020, Tiktok tiết lộ ba yếu tố tạo thành công cụ gợi ý nội dung của họ gồm:

• Tương tác của người dùng trên ứng dụng.
• Nội dung trong video mà người dùng xem (như âm thanh, hashtag).
• Bối cảnh liên quan tới người dùng (ở nước nào, ngôn ngữ sử dụng, loại thiết bị đang sử dụng).

TikTok giải thích trên blog, For You đề xuất nội dung và video phù hợp với riêng cá nhân mỗi người dùng. Chính nhờ cơ chế hiển thị video cá nhân hóa này khiến nhiều người "nghiện" TikTok. Điều này giúp Tiktok trở thành ứng dụng được tải nhiều nhất năm 2021, trở thành tên miền có lượng truy cập cao nhất năm qua.