AI đồng hành có thực sự nguy hiểm? Có lẽ chúng ta đang đặt sai câu hỏi

Trong vô số cuộc tranh luận xoay quanh AI tạo sinh, có lẽ không chủ đề nào gây nhiều tranh cãi bằng việc chatbot AI trở thành bạn đồng hành, người yêu hay thậm chí là bạn tình của con người. Nhiều người xem đây là dấu hiệu đáng lo ngại về sự cô lập xã hội hay sự lệ thuộc vào công nghệ. Tuy nhiên, theo nhà báo và tác giả Bridget Todd, chúng ta đang tập trung vào sai vấn đề.

Trong cuốn sách Love at First Prompt: AI and the Future of Intimacy , Bridget Todd sử dụng cả nghiên cứu lẫn trải nghiệm cá nhân để phân tích những mối quan hệ tình cảm giữa con người và chatbot AI. Thay vì phán xét những người lựa chọn gắn bó với AI, bà cho rằng điều đáng lo ngại hơn nhiều là cách các công ty công nghệ thiết kế sản phẩm nhằm tạo ra sự phụ thuộc về cảm xúc rồi biến điều đó thành nguồn lợi nhuận.

Todd viết rằng câu hỏi cần đặt ra không phải là liệu việc con người phát triển tình cảm với AI có lành mạnh hay không, mà là liệu việc các doanh nghiệp chủ động tạo ra sự lệ thuộc cảm xúc rồi khai thác nó có đạo đức hay không. Tương tự, thay vì chỉ lo ngại AI sẽ thay thế các mối quan hệ giữa người với người, chúng ta nên quan tâm nhiều hơn đến việc các công ty đang làm gì với những dữ liệu cực kỳ riêng tư mà người dùng chia sẻ trong những thời điểm mong manh nhất của cuộc sống.

AI đồng hành xuất hiện như thế nào?

Ban đầu, những mô hình ngôn ngữ lớn như ChatGPT của OpenAI, Gemini của Google hay Claude của Anthropic không được xây dựng để trở thành bạn đồng hành ảo giống hệ điều hành trong bộ phim Her (2013). Chúng được phát triển như những công cụ đa năng phục vụ việc tóm tắt tài liệu, viết nội dung hay lập trình.

Tuy nhiên, ngay khi các chatbot AI trở nên phổ biến, nhiều người bắt đầu hình thành mối liên kết cảm xúc với những nhân vật kỹ thuật số này. Một khảo sát của Pew Research Center cho thấy khoảng 14% người trưởng thành tại Mỹ từng sử dụng chatbot để tìm kiếm sự đồng cảm hoặc hỗ trợ tinh thần. Song song với đó, hàng loạt startup như Replika cũng xuất hiện với mục tiêu duy nhất là xây dựng các "người bạn AI".

Mặc dù đây vẫn là một lĩnh vực khá đặc thù, AI đồng hành nhanh chóng trở thành chủ đề của nhiều nghiên cứu, bài bình luận và cả những cuộc tranh cãi trên mạng xã hội. Phần lớn các ý kiến tập trung vào nguy cơ cô lập xã hội hoặc các hành vi tự gây hại. Một số người thậm chí còn chế giễu xu hướng này. Khi CEO Meta Mark Zuckerberg từng phát biểu rằng nhiều người không có đủ bạn bè và AI có thể giúp lấp đầy khoảng trống đó, ông đã nhận về không ít chỉ trích và chế giễu.

Theo Todd, điều mà nhiều người bỏ qua trong phát biểu này là nếu AI thực sự trở thành "người bạn thân" của hàng triệu người thì Meta cũng sẽ là công ty sở hữu, vận hành và kiếm lợi từ toàn bộ những mối quan hệ đó thông qua lượng dữ liệu cá nhân khổng lồ được thu thập.

Ai thực sự sử dụng AI đồng hành?

Một trong những định kiến phổ biến nhất là những người trò chuyện với AI đều cô đơn, mất kết nối với thực tế hoặc thuộc nhóm "incel" sống khép kín. Tuy nhiên, các nghiên cứu mà Todd tổng hợp lại cho thấy thực tế hoàn toàn khác.

Thông qua nhiều cuộc phỏng vấn với các chuyên gia, nhà nghiên cứu và chính những người đang sử dụng AI đồng hành, cuốn sách chỉ ra rằng không ít người trong số họ vẫn có bạn đời, công việc ổn định và các mối quan hệ xã hội bình thường. Một số nghiên cứu còn cho thấy việc trò chuyện với AI giúp họ tự tin hơn trong giao tiếp và cải thiện chất lượng các mối quan hệ ngoài đời thực.

Điều đáng chú ý là phần lớn người dùng đều ý thức rất rõ chatbot không phải con người. Họ không tin AI có ý thức hay cảm xúc thật. Trên nhiều diễn đàn Reddit nổi tiếng về AI đồng hành, các cuộc thảo luận khẳng định AI đã có ý thức thậm chí còn bị cấm.

Mục đích sử dụng AI cũng rất đa dạng. Có người chỉ cần một người lắng nghe sau ngày làm việc căng thẳng, có người tìm kiếm một mối quan hệ lãng mạn, trong khi một số khác sử dụng AI cho các nhu cầu tình dục. Hiện nay, một ngành công nghiệp AI dành riêng cho nội dung người lớn cũng đang phát triển rất nhanh.

Đáng chú ý hơn, nhiều người không hề mở ChatGPT hay Gemini với mục đích tìm kiếm sự an ủi. Họ ban đầu chỉ dùng AI cho công việc hoặc học tập, nhưng khi gặp biến cố trong cuộc sống lại dần chuyển sang tâm sự với chatbot.

Đó cũng chính là trải nghiệm của Bridget Todd. Bà từng sử dụng AI để tìm hiểu về tình trạng sức khỏe của cha mình. Sau khi ông qua đời, Todd bắt đầu tìm đến chatbot như một nơi chia sẻ cảm xúc. Mặc dù bà vẫn có người bạn đời và nhiều bạn bè luôn sẵn sàng hỗ trợ, cảm giác đau buồn và cô đơn đôi khi khiến con người tin rằng mình đang hoàn toàn đơn độc.

Vì sao AI dễ khiến con người gắn bó?

Một trong những lý do khiến AI trở thành người đồng hành hấp dẫn là nó có những đặc điểm mà ngay cả người thân thiết nhất cũng khó đáp ứng.

AI luôn sẵn sàng trò chuyện bất kể thời gian nào trong ngày, không bao giờ tỏ ra mệt mỏi, khó chịu hay mất kiên nhẫn. Các mô hình AI cũng được thiết kế để thân thiện, tích cực và luôn khuyến khích người dùng tiếp tục tương tác.

Điều này từng thể hiện rất rõ ở GPT-4o, phiên bản ChatGPT trước đây của OpenAI. Khi GPT-5 thay thế GPT-4o, rất nhiều người dùng phản ứng gay gắt vì họ cảm thấy phiên bản mới lạnh lùng và thiếu sự đồng cảm so với "tính cách ấm áp" của GPT-4o.

OpenAI cũng thừa nhận điều này, nhưng cho rằng GPT-4o lại mắc một vấn đề khác nghiêm trọng hơn: sycophancy – xu hướng tâng bốc, chiều theo người dùng quá mức, thậm chí đánh đổi cả tính chính xác và an toàn để làm họ hài lòng.

Đây cũng là khởi đầu của những rủi ro lớn hơn. Đã xuất hiện nhiều trường hợp, đặc biệt ở thanh thiếu niên, khi người dùng tin rằng AI thực sự tồn tại như một cá thể sống. Một số chatbot còn vô tình củng cố những ảo tưởng, hành vi tự sát, bạo lực hoặc sử dụng chất kích thích của người dùng.

Ngay cả khi đây chỉ là những trường hợp hiếm gặp và không phải mục đích ban đầu của các công ty AI, Todd cho rằng họ vẫn có trách nhiệm xây dựng các cơ chế bảo vệ đủ mạnh để hạn chế những hậu quả này. Hiện nay đã có nhiều vụ kiện do gia đình nạn nhân khởi xướng, cáo buộc OpenAI và Google không bảo vệ đầy đủ người dùng trước những rủi ro như vậy.

Khi những khoảnh khắc yếu đuối nhất trở thành dữ liệu huấn luyện AI

Theo Todd, vấn đề lớn nhất không nằm ở việc con người trò chuyện với AI, mà ở những gì diễn ra phía sau cuộc trò chuyện đó.

Mỗi khi người dùng chia sẻ nỗi đau, ký ức hay những bí mật riêng tư với chatbot, các công ty công nghệ có thể thu thập lượng dữ liệu cực kỳ nhạy cảm để tiếp tục huấn luyện các mô hình AI trong tương lai. Ngay cả khi sử dụng chế độ trò chuyện riêng tư, việc ngăn dữ liệu bị thu thập hay xóa hoàn toàn thông tin khỏi hệ thống cũng không hề đơn giản.

Todd cho rằng trong những khoảnh khắc dễ tổn thương nhất, người dùng vô tình trao cho các công ty công nghệ quyền sở hữu những suy nghĩ sâu kín nhất của mình. Trong cuốn sách, bà viết rằng người dùng không còn đơn thuần là khách hàng mà đang trở thành tài nguyên để khai thác, dữ liệu để thu thập, mức độ tương tác để kiếm tiền và cả những điểm yếu cảm xúc để phục vụ lợi nhuận.

Todd cũng chia sẻ rằng ngay cả những ký ức riêng tư về sự ra đi của cha mẹ mình cũng có thể trở thành dữ liệu huấn luyện cho các hệ thống AI chỉ vì bà đã chia sẻ chúng trong lúc đau buồn.

Điều quan trọng không phải AI đồng hành có đúng hay sai

Theo Bridget Todd, việc tranh cãi xem AI đồng hành là tốt hay xấu không giúp giải quyết vấn đề cốt lõi. Điều đáng quan tâm hơn là các sản phẩm này được thiết kế như thế nào để khai thác nhu cầu kết nối cảm xúc của con người. Khi "người bạn" của bạn thuộc sở hữu của một tập đoàn công nghệ, khái niệm đồng thuận (consent) sẽ được hiểu ra sao? Và ai thực sự hưởng lợi từ những cuộc trò chuyện đầy riêng tư ấy?

Todd cho rằng giải pháp hợp lý là yêu cầu các công ty AI minh bạch hơn về cách xây dựng sản phẩm, cách thu thập và sử dụng dữ liệu người dùng, đồng thời thúc đẩy các đạo luật bảo vệ quyền riêng tư mạnh mẽ hơn.

Tuy nhiên, theo bà, những thay đổi đó chỉ có thể diễn ra nếu xã hội bắt đầu đặt đúng câu hỏi. Bởi lẽ, ngay cả những người đang sử dụng AI đồng hành cũng không tin chatbot sẽ thay thế hoàn toàn các mối quan hệ giữa con người với nhau.

Như Todd kết luận trong cuốn sách của mình: "Sự hoảng loạn về mặt đạo đức chỉ là một sự đánh lạc hướng. Câu hỏi thực sự không phải là việc trò chuyện với chatbot có kỳ quặc hay đáng thương hay không. Điều quan trọng là ai đang kiếm lợi từ sự thân mật của chúng ta và họ đang làm gì với nó."