Google: AI của hãng hiểu sai sắc thái ngôn ngữ nên liên tục trả lời sai

Các mô hình AI của Google gọi chung là AI Overviews đã liên tiếp đưa ra những câu trả lời sai tới mức vô lý khiến người dùng mất niềm tin. Mới đây, Google đã đưa ra lời giải thích cho tình trạng này.

Google cho biết AI Overviews không chỉ đơn giản cho ra kết quả đầu ra dựa trên dữ liệu được đào tạo, mà thực hiện tác vụ tìm kiếm truyền thống với chất lượng cao nhờ được tích hợp hệ thống xếp hạng web cốt lõi. Tuy nhiên, hãng thừa nhận trong một số trường hợp, AI Overviews hiểu nhầm vấn đề, thường là "hiểu sai truy vấn, sắc thái của ngôn ngữ trên web hoặc cơ sở dữ liệu không có sẵn nhiều thông tin hữu ích" dẫn tới mắc hàng loạt lỗi nghiêm trọng.

Ví dụ, Google nói AI của mình hiểu không đúng truy vấn "nên ăn bao nhiêu đá mỗi ngày", nên xử lý không tốt nội dung châm biếm.

Trong tình huống khuyên "dùng keo để phô mai dính vào bánh pizza", Google giải thích rằng, AI Overviews diễn giải không đúng ngôn ngữ trên trang web, từ đó cung cấp thông tin thiếu chính xác.

Google cho biết, công ty đã nhanh chóng cải tiến thuật toán để khắc phục lỗi. Trước mắt, Google đã cập nhật hệ thống để hạn chế người dùng đưa ra “nội dung châm biếm và hài hước" khiến AI đưa ra lời khuyên sai lệch, không hữu ích. Công ty cũng đưa ra biện pháp kiểm soát nghiêm ngặt với nội dung như sức khỏe.

Đầu năm ngoái, chatbot Bard của công ty cũng đưa ra câu trả lời sai cho câu hỏi kiến thức ngay trong đoạn giới thiệu của CEO Sundar Pichai. Điều này khiến Google mất 100 tỷ USD giá trị vốn hóa trong thời gian ngắn. Tháng 2 năm nay, công ty tung ra tính năng tạo ảnh cho Gemini nhưng công cụ này lại tạo hình ảnh không đúng về nhân vật lịch sử nên nhanh chóng phải tạm dừng.

Giới chuyên gia cho rằng, AI Google được tích hợp trong sản phẩm tìm kiếm cốt lõi nên việc liên tục gặp lỗi là vấn đề đáng lo ngại, có thể gây tổn hại cho người dùng. Việc AI liên tục trả lời sai cũng khiến lòng tin của người dùng vào sản phẩm của Google trong tương lai bị giảm.