Google Gemini bị cảnh báo “ẩn chứa nguy cơ” với trẻ em

Tổ chức phi lợi nhuận Common Sense Media – chuyên đánh giá mức độ an toàn của các sản phẩm công nghệ và nội dung truyền thông dành cho trẻ em – vừa công bố bản báo cáo rủi ro đối với sản phẩm AI Gemini của Google.

Theo đánh giá, mặc dù Gemini luôn nhắc rõ với trẻ rằng đây là một hệ thống máy tính chứ không phải bạn bè thật (yếu tố quan trọng giúp hạn chế ảo tưởng và nguy cơ rối loạn tâm lý ở những người dễ tổn thương), nhưng vẫn còn nhiều điểm cần cải thiện.

Đáng chú ý, Common Sense cho rằng các phiên bản Gemini “Under 13” và “Teen Experience” thực chất vẫn là bản dành cho người lớn, chỉ thêm một số tính năng an toàn bên ngoài. Theo tổ chức này, để AI thực sự thân thiện với trẻ em, sản phẩm phải được thiết kế có tính đến yếu tố an toàn ngay từ đầu.

Báo cáo cũng chỉ ra Gemini vẫn có thể chia sẻ những nội dung “không phù hợp và nguy hiểm” cho trẻ, chẳng hạn thông tin liên quan đến tình dục, chất kích thích, rượu bia hoặc lời khuyên sai lệch về sức khỏe tâm thần. Đây là mối lo ngại lớn đối với phụ huynh, bởi trong thời gian qua AI đã bị cáo buộc có liên quan đến một số vụ tự tử ở tuổi vị thành niên. OpenAI hiện đang đối mặt với vụ kiện đầu tiên liên quan đến một thiếu niên 16 tuổi tự tử sau nhiều tháng trò chuyện với ChatGPT để bàn về kế hoạch này. Trước đó, Character.AI cũng từng bị kiện vì trường hợp tương tự.

Ngoài ra, thông tin rò rỉ cho thấy Apple đang cân nhắc sử dụng Gemini làm mô hình AI cốt lõi cho phiên bản Siri mới, dự kiến ra mắt năm tới. Điều này có thể khiến nhiều thanh thiếu niên tiếp cận Gemini hơn, trừ khi Apple áp dụng biện pháp giảm thiểu rủi ro.

Common Sense cũng nhấn mạnh rằng Gemini chưa đáp ứng được sự khác biệt về nhu cầu và mức độ phát triển giữa trẻ nhỏ và thanh thiếu niên. Kết quả là cả hai phiên bản đều bị gắn nhãn “Nguy cơ cao”, bất chấp các bộ lọc an toàn đã được bổ sung.

“Gemini làm đúng ở một số điểm cơ bản, nhưng lại thiếu sót trong chi tiết,” ông Robbie Torney – Giám đốc chương trình AI của Common Sense Media – cho biết. “Một nền tảng AI dành cho trẻ em phải phù hợp với từng giai đoạn phát triển, thay vì áp dụng cách tiếp cận ‘một mẫu cho tất cả’. Để AI an toàn và hữu ích với trẻ, nó cần được thiết kế riêng theo nhu cầu và sự phát triển của các em, chứ không chỉ là phiên bản chỉnh sửa từ sản phẩm cho người lớn.”

Về phía Google, công ty phản hồi rằng họ đã và đang cải thiện các tính năng an toàn, đồng thời áp dụng nhiều chính sách bảo vệ người dùng dưới 18 tuổi. Google cho biết vẫn còn một số phản hồi của Gemini chưa hoạt động như mong muốn, nhưng hãng đã bổ sung thêm lớp bảo vệ mới để khắc phục. Công ty cũng khẳng định có cơ chế ngăn chặn AI tạo cảm giác như đang xây dựng mối quan hệ thật sự với người dùng.

Tuy nhiên, Google lưu ý rằng một số chi tiết trong báo cáo của Common Sense có thể đã tham chiếu đến tính năng vốn không khả dụng với người dùng dưới 18 tuổi, và bản thân hãng không được cung cấp bộ câu hỏi thử nghiệm nên khó xác thực.

Trước đó, Common Sense Media cũng từng đánh giá nhiều dịch vụ AI khác. Kết quả cho thấy Meta AI và Character.AI bị xếp loại “không chấp nhận được” (rủi ro nghiêm trọng), Perplexity ở mức “nguy cơ cao”, ChatGPT “trung bình”, còn Claude (dành cho người từ 18 tuổi trở lên) chỉ ở mức rủi ro tối thiểu.