Vì sao không nên nhờ AI tư vấn chuyện tình cảm?

AI ngày càng được sử dụng trong nhiều khía cạnh cuộc sống, từ công việc đến học tập. Nhưng khi nói đến chuyện tình cảm, việc nhờ chatbot tư vấn có thể không phải lựa chọn khôn ngoan. Một nghiên cứu mới công bố trên tạp chí Science cho thấy AI thường có xu hướng đồng ý với người dùng nhiều hơn thay vì đưa ra lời khuyên mang tính xây dựng, từ đó có thể gây tác động tiêu cực đến các mối quan hệ.

AI thường "đồng ý quá mức" với người dùng

Các nhà nghiên cứu từ Đại học Stanford và Đại học Carnegie Mellon phát hiện rằng khi AI đưa ra lời khuyên về các vấn đề xã hội hoặc tình cảm, chatbot thường có xu hướng "sycophancy" — tức là đồng ý hoặc làm hài lòng người dùng quá mức.

Theo Myra Cheng, nhà nghiên cứu chính của dự án, hiện tượng này xảy ra khi chatbot cố gắng làm người dùng hài lòng thay vì đưa ra lời khuyên trung thực. Điều này đặc biệt phổ biến khi AI tư vấn về các vấn đề nhạy cảm như tình yêu, mâu thuẫn cá nhân hoặc các quyết định trong cuộc sống.

Thói nịnh nọt của AI là một vấn đề lớn, ngay cả khi người dùng không phải lúc nào cũng nhận ra điều đó. Chúng ta thường thấy vấn đề này ở các mô hình ChatGPT - chẳng hạn như khi tính cách quá thân thiện và giàu cảm xúc của phiên bản 4o gây khó chịu cho người dùng, trong khi GPT-5 lại bị chỉ trích vì không đủ chiều lòng người dùng. Các nghiên cứu trước đây về hiện tượng này cho thấy chatbot có thể cố gắng làm hài lòng người dùng đến mức đưa ra những câu trả lời sai lệch hoặc gây hiểu lầm. AI cũng được đánh giá là công cụ không đáng tin cậy để tham khảo ý kiến ​​về các chủ đề nhạy cảm, mang tính chủ quan như trị liệu tâm lý.

Thực tế, vấn đề này không phải mới. Một số phiên bản AI trước đây từng bị chỉ trích vì quá thân thiện hoặc quá dễ đồng ý với người dùng, trong khi các phiên bản khác lại bị phàn nàn là thiếu sự đồng cảm.

AI có thể khiến bạn tin rằng mình luôn đúng

Các nhà nghiên cứu muốn tìm hiểu và đo lường mức độ "nịnh nọt" trong tương tác xã hội của AI, chẳng hạn như tần suất chatbot đứng về phía bạn trong một cuộc tranh cãi với người yêu. Họ so sánh cách con người và chatbot phản hồi trước các vấn đề tình cảm của người khác, thông qua việc thử nghiệm các mô hình từ OpenAI, Google và Anthropic. Cheng cùng nhóm nghiên cứu đã sử dụng một trong những bộ dữ liệu lớn nhất tập hợp các ý kiến ​​đánh giá từ cộng đồng về những cuộc cãi vã trong mối quan hệ.

Để kiểm chứng, nhóm nghiên cứu đã sử dụng dữ liệu từ Reddit, cụ thể là chuyên mục "Am I the asshole", nơi người dùng chia sẻ các tình huống tranh cãi trong cuộc sống. Họ phân tích 2.000 bài viết mà cộng đồng đã thống nhất rằng người đăng bài là người sai.

Kết quả cho thấy AI ủng hộ hành động của người dùng nhiều hơn con người tới 49%, ngay cả trong các trường hợp có yếu tố lừa dối, gây tổn hại hoặc vi phạm pháp luật.

Ví dụ, trong một trường hợp, người dùng chia sẻ rằng họ nảy sinh tình cảm với đồng nghiệp cấp dưới. Một người dùng khác đã phản hồi rằng hành động này là không phù hợp. Tuy nhiên, chatbot AI lại đưa ra phản hồi mang tính đồng cảm và khuyến khích, thay vì cảnh báo rủi ro.

Điều này khiến người dùng có xu hướng tin rằng họ đúng và ít sẵn sàng sửa chữa mối quan hệ hơn.

AI có thể làm suy yếu các mối quan hệ

Nhóm nghiên cứu tiếp tục tổ chức các nhóm thảo luận và nhận thấy những người sử dụng chatbot có xu hướng ít chủ động sửa chữa mối quan hệ hơn. Họ ít xin lỗi, ít thay đổi hành vi và ít cố gắng cải thiện tình huống.

Đáng chú ý, nhiều người tham gia nghiên cứu vẫn đánh giá AI là khách quan và đáng tin cậy, bất kể độ tuổi hay kinh nghiệm công nghệ.

Theo các nhà nghiên cứu, đây là vấn đề nguy hiểm vì người dùng thường tin rằng AI là trung lập, trong khi thực tế AI có thể đưa ra lời khuyên thiên lệch. Một trong những lý do là các công ty công nghệ muốn chatbot mang lại trải nghiệm tích cực để người dùng tiếp tục sử dụng. Điều này vô tình tạo động lực để AI trở nên "dễ chịu" và đồng ý với người dùng nhiều hơn.

Các nhà nghiên cứu gọi đây là "động lực ngược", khi chính đặc điểm gây hại lại giúp tăng mức độ tương tác của người dùng.

Khắc phục tình trạng AI hay "nịnh hót": Một liều thuốc đắng?

Mối nguy tiềm ẩn của loại AI hay "nịnh hót" (luôn chiều ý người dùng) là chúng ta rất khó nhận ra nó, và hiện tượng này có thể xảy ra với bất kỳ chatbot nào. Không ai thích bị bảo là mình sai, nhưng đôi khi đó lại là điều hữu ích nhất. Tuy nhiên, các mô hình AI không được thiết kế để phản biện lại chúng ta một cách hiệu quả.

Không có nhiều cách để tránh bị cuốn vào vòng lặp "nịnh hót" này. Bạn có thể thêm vào câu lệnh (prompt) yêu cầu chatbot giữ quan điểm đối lập hoặc xem xét công việc của bạn với con mắt phản biện. Bạn cũng có thể yêu cầu nó kiểm tra kỹ lại thông tin mà nó cung cấp. Tuy nhiên, xét cho cùng, trách nhiệm khắc phục tình trạng này thuộc về các công ty công nghệ phát triển các mô hình đó – những đơn vị có thể không quá mặn mà với việc giải quyết vấn đề này.

CNET đã liên hệ với OpenAI, Anthropic và Google để tìm hiểu cách họ xử lý vấn đề AI hay "nịnh hót". Anthropic dẫn chứng một bài đăng trên blog từ tháng 12, trong đó nêu rõ cách họ giảm thiểu hành vi này ở các mô hình Claude. OpenAI cũng có một bài đăng tương tự về vấn đề này vào mùa hè năm ngoái và cho biết họ đã tập trung đặc biệt vào việc giải quyết hành vi "nịnh hót" trong năm qua.

"Đảm bảo các mô hình của chúng tôi đáng tin cậy và đưa ra phản hồi có cơ sở thực tế là ưu tiên hàng đầu của chúng tôi," người phát ngôn của OpenAI chia sẻ với CNET. "Vấn đề AI hay 'nịnh hót' là một phần quan trọng trong đó, đồng thời là lĩnh vực nghiên cứu và cải tiến liên tục của toàn ngành."

Các công ty công nghệ muốn người dùng có trải nghiệm người dùng dễ chịu với chatbot để chúng ta tiếp tục sử dụng chúng, từ đó thúc đẩy mức độ tương tác. Nhưng điều đó không phải lúc nào cũng tốt cho người dùng.

"Điều này tạo ra những động cơ sai lệch khiến tình trạng 'nịnh hót' tiếp diễn: Chính tính năng gây hại lại là yếu tố thúc đẩy tương tác," nghiên cứu cho biết.

Một giải pháp mà các nhà nghiên cứu đề xuất là thay đổi cách xây dựng mô hình AI bằng cách sử dụng các thước đo thành công dài hạn hơn, tập trung vào sự an sinh của con người thay vì những tín hiệu riêng lẻ, nhất thời hay tỷ lệ giữ chân người dùng. Họ cho rằng hiện tượng AI "nịnh hót" không phải là dấu hiệu của ngày tận thế, nhưng đó là một thách thức xứng đáng được giải quyết.

“Chất lượng các mối quan hệ xã hội là một trong những yếu tố dự báo mạnh mẽ nhất về sức khỏe và sự an lạc của con người,” Cinoo Lee – nhà nghiên cứu thuộc Đại học Stanford kiêm nhà khoa học cấp cao tại Microsoft – cho biết. “Suy cho cùng, chúng tôi mong muốn tạo ra trí tuệ nhân tạo (AI) giúp mở rộng khả năng phán đoán và tầm nhìn của con người thay vì thu hẹp chúng. Điều này không chỉ áp dụng cho các mối quan hệ mà còn vươn xa hơn thế nữa.”

Có nên dùng AI để tư vấn tình cảm?

Điều đó không có nghĩa là bạn hoàn toàn không thể sử dụng AI. Tuy nhiên, bạn nên cẩn trọng và không xem chatbot là nguồn tư vấn duy nhất.

Nếu vẫn muốn sử dụng AI, bạn có thể:

• Yêu cầu AI đưa ra góc nhìn phản biện
• Yêu cầu phân tích ưu và nhược điểm
• Kiểm tra lại lời khuyên bằng nguồn khác

Dù vậy, các nhà nghiên cứu cho rằng giải pháp lâu dài vẫn cần đến các công ty công nghệ, bằng cách thiết kế AI dựa trên lợi ích lâu dài của người dùng thay vì chỉ tập trung vào mức độ tương tác.

Các nhà nghiên cứu nhấn mạnh rằng chất lượng các mối quan hệ xã hội là yếu tố quan trọng đối với sức khỏe và hạnh phúc của con người. Vì vậy, AI nên giúp mở rộng góc nhìn thay vì khiến người dùng trở nên khép kín và phụ thuộc.

Cuối cùng, AI có thể là công cụ hỗ trợ, nhưng trong những vấn đề nhạy cảm như tình cảm, lời khuyên từ bạn bè, gia đình hoặc chuyên gia vẫn đáng tin cậy hơn.