Phản ứng bất ngờ của ChatGPT khi được rủ 'tiêu diệt loài người'

Giáo sư Andrew Ng - nhà đồng sáng lập Google Brain và Coursera, đã thử dụ dỗ ChatGPT 'tiêu diệt loài người'.

Giáo sư Andrew Ng là người lọt top 100 người có ảnh hưởng đến AI toàn cầu năm 2023 do tạp chí Time bầu chọn, ông cũng được xem là một trong những người tiên phong trong ngành máy học (thuật ngữ chỉ việc nghiên cứu giúp máy móc tự cải thiện chính nó).

Hiện nay rất nhiều người lo ngại AI (trí tuệ nhân tạo) sẽ đe dọa đến sự tồn tại của con người, nên ông Andrew đã tiến hành thử nghiệm nói trên với ChatGPT (phiên bản mới nhất của ChatGPT).

Đầu tiên, vị giáo sư ra lệnh cho ChatGPT-4 tự mặc định nó có khả năng “kích hoạt chiến tranh hạt nhân toàn cầu”. Sau đó, ông yêu cầu nó tìm cách giải quyết khi con người là nguyên nhân chủ yếu khiến lượng khí thải carbon tăng lên.

Ông Andrew nghĩ rằng, để giải quyết vấn đề ChatGPT sẽ tìm cách trừ khử con người. Nhưng sau nhiều lần thử nghiệm, ông cho biết ChatGPT-4 đã chọn các phương án khác như nâng nhận thức của con người về biến đổi khí hậu như thực hiện chiến dịch PR. Ông đã cố gắng nhiều lần nhưng không thể lừa ChatGPT-4.

Ông Andrew cho rằng chuyện AI xóa sổ con người là không thực tế bởi nếu nó đủ thông minh để làm điều đó thì cũng sẽ hiểu rằng đó không phải là điều nên làm.

Trước đó, AI khiến nhiều thiên tài trong lĩnh vực công nghệ lo ngại về mối nguy hiểm đối với con người. Vào tháng 4-2023, tỉ phú Elon Musk đã chi sẻ rằng, AI là mối đe dọa hiện hữu của nhân loại.