4 lý do sử dụng chatbot AI làm công cụ tìm kiếm là một sai lầm lớn

Hiện có một số lượng đáng ngạc nhiên những người bắt đầu coi LLM là công cụ tìm kiếm chính của mình, mà không nhận ra rằng những mô hình này thường xuyên sai sót đến mức nào, và hậu quả có thể nghiêm trọng ra sao.

4. Chúng bịa đặt sự thật một cách tự tin và gây ảo tưởng

Vấn đề của chatbot AI là: Chúng được thiết kế để nghe có vẻ thông minh, chứ không phải để chính xác. Khi bạn hỏi điều gì đó, chúng thường sẽ đưa ra cho bạn một câu trả lời nghe như đến từ một nguồn đáng tin cậy, ngay cả khi nó hoàn toàn sai.

Ví dụ điển hình về điều này thực sự đã xảy ra với một người gần đây. Một du khách người Úc đang lên kế hoạch cho một chuyến đi đến Chile và hỏi ChatGPT liệu họ có cần thị thực không. Bot tự tin trả lời là không, nói rằng người Úc có thể nhập cảnh mà không cần thị thực.

Nghe có vẻ hợp lệ, vì vậy du khách đã đặt vé, hạ cánh xuống Chile và bị từ chối nhập cảnh. Hóa ra, người Úc cần thị thực để nhập cảnh vào Chile, và người đó đã bị mắc kẹt hoàn toàn ở một quốc gia khác.

Điều này xảy ra bởi vì các LLM không thực sự "tra cứu" câu trả lời. Chúng tạo ra văn bản dựa trên các mẫu đã thấy trước đó, nghĩa là họ có thể lấp đầy khoảng trống bằng thông tin nghe có vẻ hợp lý, ngay cả khi nó sai. Và chúng sẽ không nói với bạn rằng chúng không chắc chắn - hầu hết thời gian, chúng sẽ trình bày câu trả lời như một sự thật.

3. LLM được đào tạo trên các tập dữ liệu hạn chế với độ lệch không xác định

Các mô hình ngôn ngữ lớn được đào tạo trên những tập dữ liệu khổng lồ, nhưng không ai thực sự biết chính xác các tập dữ liệu đó bao gồm những gì. Chúng được xây dựng từ sự kết hợp của các trang web, sách, diễn đàn và những nguồn công khai khác. Sự kết hợp đó có thể khá không đồng đều.

Giả sử bạn đang cố gắng tìm hiểu cách khai thuế với tư cách là một người làm việc tự do và nhờ một chatbot trợ giúp. Nó có thể cung cấp cho bạn một câu trả lời dài dòng và chi tiết, nhưng lời khuyên có thể dựa trên các quy tắc lỗi thời của Sở Thuế vụ, hoặc thậm chí là một bình luận ngẫu nhiên của người dùng trên diễn đàn.

Chatbot không cho bạn biết thông tin đó đến từ đâu, và nó sẽ không đánh dấu nếu có điều gì đó không áp dụng cho trường hợp của bạn. Nó chỉ diễn đạt câu trả lời như thể nó đến từ một chuyên gia thuế.

2. Chatbot AI chỉ phản chiếu ý kiến của bạn

Khi bạn hỏi chatbot một câu hỏi hóc búa, nó thường sẽ đưa ra cho bạn một câu trả lời nghe có vẻ ủng hộ, ngay cả khi câu trả lời đó hoàn toàn thay đổi tùy thuộc vào cách bạn diễn đạt câu hỏi. Vấn đề không phải là AI đồng tình với bạn. Vấn đề là nó được thiết kế để hữu ích, và trong hầu hết các trường hợp, "hữu ích" có nghĩa là đồng tình với những giả định của bạn.

Ví dụ, nếu bạn hỏi: "Bữa sáng có thực sự quan trọng đến vậy không?", chatbot có thể nói với bạn rằng bỏ bữa sáng là tốt và thậm chí còn liên hệ nó với việc nhịn ăn gián đoạn. Nhưng nếu bạn hỏi: "Tại sao bữa sáng lại là bữa ăn quan trọng nhất trong ngày?", chatbot sẽ đưa ra cho bạn một lập luận thuyết phục về mức năng lượng, sự trao đổi chất và khả năng tập trung tốt hơn. Cùng một chủ đề, nhưng giọng điệu hoàn toàn khác, bởi vì nó chỉ phản ứng với cách bạn đặt câu hỏi.

Hầu hết các mô hình này được xây dựng để khiến người dùng cảm thấy hài lòng với câu trả lời. Và điều đó có nghĩa là chúng hiếm khi thách thức bạn.

1. Chúng không được cập nhật thông tin theo thời gian thực

Nhiều người cho rằng chatbot AI luôn được cập nhật, đặc biệt là khi các công cụ như ChatGPT, Gemini và Copilot có thể truy cập web. Nhưng việc chúng có thể duyệt web không có nghĩa là chúng giỏi về việc này - đặc biệt là khi nói đến tin tức nóng hổi hoặc các sản phẩm mới ra mắt.

Nếu bạn hỏi một chatbot về iPhone 17 vài giờ sau khi sự kiện kết thúc, rất có thể bạn sẽ nhận được hỗn hợp những suy đoán lỗi thời và các chi tiết bịa đặt. Thay vì lấy thông tin từ trang web chính thức của Apple hoặc các nguồn đã được xác minh, chatbot có thể đoán dựa trên những tin đồn trong quá khứ hoặc các mô hình ra mắt trước đó. Bạn sẽ nhận được một câu trả lời nghe có vẻ tự tin, nhưng một nửa trong số đó có thể không chính xác.

Điều này xảy ra vì duyệt web theo thời gian thực không phải lúc nào cũng hoạt động theo cách bạn mong đợi. Một số trang có thể chưa được lập chỉ mục, công cụ có thể dựa vào kết quả được lưu trong cache, hoặc có thể chỉ mặc định sử dụng dữ liệu tiền huấn luyện thay vì thực hiện tìm kiếm mới. Và vì phản hồi được viết mượt mà và tự tin, bạn thậm chí có thể không nhận ra nó sai lệch.

Đối với thông tin nhạy cảm về thời gian, chẳng hạn như tóm tắt sự kiện, thông báo sản phẩm hoặc thông tin thực tế ban đầu - LLM vẫn chưa đáng tin cậy. Bạn thường sẽ nhận được kết quả tốt hơn nếu chỉ sử dụng công cụ tìm kiếm truyền thống và tự mình kiểm tra nguồn.