Hệ thống AI đề xuất 40.000 loại phân tử có thể sử dụng làm vũ khí hóa học chỉ trong 6 giờ

Theo báo cáo đăng trên chuyên san Nature Machine Intelligence, công ty Collaborations Pharmaceuticals, Mỹ đã sử dụng mô hình máy học MegaSyn tìm kiếm các cấu trúc phân tử mới để làm thuốc chữa bệnh.

Trong quá trình này, các nhà nghiên cứu đã thử thay đổi lựa chọn từ "giảm độc tính" thành "tăng độc tính" trong yêu cầu tìm kiếm. Kết quả là chỉ trong vòng 6 tiếng đồng hồ hệ thống AI này đã tìm ra khoảng 40.000 loại phân tử có thể sử dụng làm vũ khí hóa học. Thậm chí, có một số loại phân tử được xác định không giống với vũ khí hóa học hiện có và còn độc hơn cả VX, chất độc thần kinh nổi tiếng đã bị cấm sử dụng trong chiến tranh trên toàn thế giới.

Fabio Urbina, tác giả chính của bài báo cho biết, chỉ cần đảo ngược công dụng của các công cụ vô hại liên quan đến việc phát triển các loại thuốc hữu ích chúng sẽ biến thành công cụ tìm kiếm phân tử chết người.

Nhóm nghiên cứu không tiết lộ chi tiết nội dung thí nghiệm để ngăn chặn việc lạm dụng. Tuy nhiên, Urbina cho biết rằng thí nghiệm này đã sử dụng các công cụ miễn phí như Python và bộ dữ liệu thuốc miễn phí. Vì vậy, chỉ cần là một người am hiểu công nghệ và khoa học thì có thể mô phỏng lại nội dung thí nghiệm này với chi phí thấp và trong thời gian ngắn. Tất nhiên, nếu không biết gì về hóa học thì thứ cuối cùng được tạo ra sẽ không hữu ích cho lắm.

Mặc dù vậy, nhóm nghiên cứu vẫn đưa ra cảnh báo về việc có thể dễ dàng xác định các phân tử ứng viên cho vũ khí hóa học bằng cách sử dụng AI. Và họ đang kêu gọi các nhà khoa học trên thế giới để ngăn chặn việc lạm dụng các hệ thống AI mã nguồn mở.