Nỗi lo AI trở thành vũ khí hủy diệt loài người, cần phải kiểm soát AI?

Trong báo cáo mới của đối tác được chính phủ Mỹ ủy quyền thực hiện, đã đưa ra cảnh báo AI có thể gây "mối đe dọa với loài người ở cấp độ tuyệt chủng", cần có ngưỡng kiểm soát.

Báo cáo này có tên Kế hoạch hành động nhằm tăng cường sự an toàn và bảo mật đối với AI tiên tiến. Trong báo cáo có đề xuất một loạt hành động và chính sách sâu rộng, chưa từng có về trí tuệ nhân tạo. Chúng có thể sẽ thay đổi hoàn toàn ngành công nghiệp AI nếu được ban hành.

Trong báo cáo có nêu: "Sự trỗi dậy của AI tiên tiến và siêu trí tuệ nhân tạo AGI có khả năng gây mất ổn định an ninh toàn cầu, khiến mọi người gợi nhớ đến việc sử dụng vũ khí hạt nhân".

Cụ thể, báo cáo khuyến nghị Quốc hội Mỹ nên xây dựng ngưỡng sức mạnh cho công cụ trí tuệ nhân tạo, do một cơ quan chuyên trách về AI của liên bang kiểm soát. Khi đó, các công ty AI phải xin phép chính phủ để đào tạo và triển khai mô hình mới theo ngưỡng đề ra. Điều này sẽ giúp "điều tiết" việc cạnh tranh giữa các nhà phát triển AI. Khi "đã cảm thấy đủ an toàn" hoặc "phát hiện mối nguy” cơ quan kiểm soát AI liên bang có thể nâng ngưỡng hoặc hạ ngưỡng trong các mô hình AI.

Bên cạnh đó, báo cáo cho rằng, nhà chức trách nên kiểm soát xuất bản nội dung hoặc hoạt động nội bộ bên trong mô hình AI mạnh mẽ. Nếu vi phạm có thể bị phạt tù. Ngoài ra, việc sản xuất và xuất khẩu chip AI cũng cần phải được kiểm soát chặt chẽ hơn. Chính phủ nên hướng nguồn tài trợ liên bang vào nghiên cứu điều chỉnh AI tiên tiến trở nên an toàn hơn.

Bộ Ngoại giao Mỹ chưa đưa ra bình luận về báo cáo trên.

AI hiện phát triển bùng nổ với nhiều mô hình có thể thực hiện các công việc tưởng như chỉ xuất hiện trong phim khoa học viễn tưởng.

Nhiều chuyên gia đã lên tiếng cảnh báo về mức độ nguy hiểm của việc AI phát triển quá nhanh.