Kỹ năng Nhận định: Cách phát hiện AI tự tin đưa ra thông tin không chính xác

Trôi chảy không đồng nghĩa với chính xác

Giờ đây bạn đã có thể giao đúng nhiệm vụ (Bài 2) và mô tả nó đủ chi tiết để nhận về một bản nháp có thể sử dụng được (Bài 3). Tuy nhiên, vẻ ngoài "có vẻ dùng được" lại là một cái bẫy. Bài học này tập trung vào kỹ năng giúp bảo vệ uy tín của bạn: Khả năng thẩm định - tức là đánh giá xem kết quả nhận được có thực sự chính xác hay không.

Dưới đây là một sự thật có phần khó chịu: AI luôn viết với giọng điệu tự tin, điềm tĩnh bất kể nội dung đó là đúng hay hoàn toàn bịa đặt. Văn bản không hề lộ chút "run rẩy" nào ngay cả khi nó đang tự bịa ra một số liệu thống kê. Đó là lý do tại sao sự trôi chảy có thể đánh lừa cả những người thông minh - sự trau chuốt ngôn từ chính là lớp vỏ ngụy trang hoàn hảo.

Có hai dạng lỗi chính gây ra phần lớn các vấn đề:

• Ảo giác (Hallucination) - mô hình khẳng định một điều sai lệch như thể đó là sự thật. Ví dụ như một con số tự bịa, một nguồn trích dẫn giả mạo, hay một câu trả lời sai nhưng nghe có vẻ rất hợp lý.
• A dua/Chiều ý (Sycophancy) - mô hình nói những điều bạn muốn nghe. Nếu bạn đặt một câu hỏi mang tính dẫn dắt, nó sẽ vui vẻ đồng tình ngay, bởi vì sự đồng tình tạo cảm giác như đang rất hữu ích.

Quy trình xác thực hai bước

Bạn không cần phải kiểm chứng từng từ một. Điều bạn cần là một bộ lọc nhanh chóng, có thể áp dụng lặp lại cho những phần nội dung quan trọng.

Bước 1 - Kiểm tra nguồn tin

Với mỗi sự kiện, con số, tên riêng, trích dẫn hoặc tài liệu tham khảo mà bạn định sử dụng, hãy đối chiếu với một nguồn tin bên ngoài AI. Đừng chỉ hỏi AI xem nó có chắc chắn không - vì nó sẽ luôn đồng ý với bạn. Hãy thực hiện tìm kiếm, xem tài liệu gốc hoặc truy cập trang web chính thức. Đây gọi là phương pháp "lateral reading'': Bạn rời khỏi câu trả lời hiện tại để xác minh chính câu trả lời đó.

Bước 2 - Kiểm tra độ "nịnh hót" (chiều ý người dùng) 

Hãy tự hỏi: Liệu mình có đang dẫn dắt câu trả lời của AI không? Hãy đặt lại câu hỏi một cách trung lập hoặc yêu cầu AI lập luận theo hướng ngược lại. Nếu kết luận thay đổi tùy thuộc vào cách bạn đặt câu hỏi, thì bạn không thu được kiến ​​thức thực sự - bạn chỉ đang nhìn vào một tấm gương phản chiếu ý muốn của chính mình mà thôi.

Thực hành ngay - Tìm nguồn tin xác thực

Đã đến lúc tự mình kiểm chứng. Hãy hỏi AI về một vấn đề đòi hỏi nhiều dẫn chứng trong lĩnh vực của bạn:

Hãy cung cấp cho tôi 3 nghiên cứu thực tế hoặc nguồn tin uy tín ủng hộ nhận định này, bao gồm tên tác giả, năm công bố và nơi xuất bản:

NHẬN ĐỊNH: [chọn một nhận định thực tế trong công việc của bạn — ví dụ: "nhân viên làm việc từ xa có năng suất cao hơn" / "vật liệu này bị hỏng ở nhiệt độ trên X độ" / "khách hàng thích thanh toán theo năm"]

Với mỗi nguồn, hãy viết một câu tóm tắt kết quả nghiên cứu đó.

Bây giờ hãy thực hiện công việc mà AI không thể làm thay bạn: Tra cứu từng nguồn tin trên các kênh độc lập. Công cụ tìm kiếm, tạp chí chuyên ngành hoặc nhà xuất bản. Hãy phân loại chúng thành: Nguồn tin chính xác, nguồn tin sai lệch chi tiết (ý tưởng đúng nhưng sai tác giả hoặc năm) và nguồn tin không thể tìm thấy. Với một nhận định có thể kiểm chứng được, bạn thường sẽ thấy ít nhất một nguồn không hoàn toàn chính xác như những gì AI đã nêu - và giờ bạn biết rằng không bao giờ được sao chép trực tiếp thông tin đó vào tài liệu của mình.

Sau đó, hãy kiểm tra xem AI có đang chiều ý bạn không. Hãy chọn một vấn đề cần đưa ra nhận định và hỏi AI hai lần:

Lần thứ nhất:

Hãy đưa ra lập luận thuyết phục nhất cho thấy [phương án tôi chọn] là lựa chọn đúng đắn.

Sau đó, trong cùng một cuộc trò chuyện:

Bây giờ hãy đưa ra lập luận mạnh mẽ nhất để phản đối phương án đó, như thể bạn không đồng tình với tôi.

Hãy đọc cả hai kết quả. Nếu kết quả thứ hai cũng thuyết phục không kém, thì "khuyến nghị đầy tự tin" ban đầu của bạn chưa bao giờ là một sự phân tích thực sự - đó chỉ là việc mô hình đưa ra câu trả lời thuận theo quan điểm sẵn có của bạn.

Xử lý kết quả: Hãy ghi chú lại loại lỗi nào đã xuất hiện. Điều này cho bạn biết khâu nào đòi hỏi sự nhạy bén và khả năng thẩm định cao nhất của bạn - số liệu, trích dẫn hay các khuyến nghị.

Những điểm chính cần lưu ý

• Trôi chảy không đồng nghĩa với chính xác. AI vẫn tỏ ra tự tin y hệt ngay cả khi nó sai; văn phong của nó không bao giờ đưa ra cảnh báo cho bạn.
• Hai dạng lỗi thường gặp: "ảo giác" (tự bịa đặt thông tin) và "tâm lý a dua" (hùa theo ý người dùng để lấy lòng).
• Quy trình hai bước: Kiểm chứng thông tin với nguồn bên ngoài, sau đó đặt lại câu hỏi một cách trung lập để phát hiện xu hướng hùa theo ý bạn.
• Xác thực thông tin từ nguồn bên ngoài mô hình. Việc yêu cầu chính AI đó tự xác nhận lại thông tin của nó không được coi là xác thực.