OpenAI lo người dùng 'yêu' ChatGPT, gây ảnh hưởng đến tương tác giữa con người với nhau

OpenAI mới đây bày tỏ lo ngại về việc tính năng giọng nói chân thực của trí tuệ nhân tạo (AI) của hãng có thể khiến con người hình thành mối quan hệ gần gũi với AI, khiến người dùng trở nên kém khéo léo hoặc ít muốn tương tác với con người hơn.

OpenAI đã dẫn chứng các nghiên cứu cho thấy, việc con người trò chuyện với AI như thể đang nói chuyện với một con người khác có thể dẫn đến sự tin tưởng không đúng chỗ. Tác động này càng gia tăng khi chất lượng giọng nói của GPT-4o ngày càng được cải thiện.

OpenAI cho biết trong một báo cáo về độ an toàn của phiên bản ChatGPT-4o, khả năng âm thanh của GPT-4o, giúp các tương tác với mô hình trở nên giống con người hơn.

Theo dự đoán của Open AI, việc giao tiếp xã hội với AI cũng có thể ảnh hưởng đến các chuẩn mực xã hội chẳng hạn như khiến người dùng trở nên kém khéo léo hoặc ít muốn tương tác với con người hơn.

Ngoài ra, khả năng ghi nhớ chi tiết trong quá trình trò chuyện và thực hiện các nhiệm vụ của AI cũng có thể khiến người người ngày càng phụ thuộc quá mức vào công nghệ.

Các nhóm thử nghiệm tính năng giọng nói của ChatGPT-4o cũng đã phát hiện rằng mô hình này có thể bị kẻ xấu lợi dụng cho các mục đích xấu. Cụ thể, kẻ xấu có thể kích hoạt mô hình này để lặp lại thông tin sai lệch và tạo ra các thuyết âm mưu, thuyết phục người dùng tin vào những điều sai sự thật.

OpenAI sẽ tiếp tục thử nghiệm để hiểu rõ hơn về cách mà khả năng giọng nói trong AI có thể khiến con người trở nên gắn bó về mặt cảm xúc.