Ảo giác AI là gì mà các hãng công nghệ chưa thể giải quyết?

Ảo giác AI là gì?

Ảo giác AI là hiện tượng trong đó, ở một mô hình ngôn ngữ lớn (LLM) – thường là chatbot Generative AI hoặc công cụ thị giác máy tính – nhận biết các mẫu hoặc đối tượng không tồn tại hoặc không thể nhận biết được đối với người quan sát, tạo ra những đầu ra vô nghĩa hoặc hoàn toàn không chính xác.

Thông thường, nếu người dùng đưa ra yêu cầu đối với một công cụ Generative AI, họ mong muốn một đầu ra giải quyết chính xác yêu cầu (tức là câu trả lời chính xác cho một câu hỏi). Tuy nhiên, đôi khi các thuật toán AI tạo ra những đầu ra không dựa trên dữ liệu huấn luyện, bị giải mã sai bởi công cụ chuyển đổi hoặc không tuân theo bất kỳ mẫu nào có thể nhận dạng được. Nói cách khác, nó dùng “ảo giác” tạo ra phản hồi.

Thuật ngữ này có vẻ nghịch lý, vì ảo giác thường được liên kết với não người hoặc động vật, chứ không phải máy móc. Nhưng từ góc độ ẩn dụ, ảo giác mô tả chính xác các đầu ra này, đặc biệt là trong trường hợp nhận dạng hình ảnh và mẫu (nơi những đầu ra có thể thực sự siêu thực về hình thức).

Ảo giác của AI cũng tương tự như việc con người đôi khi nhìn thấy hình bóng trong mây hoặc khuôn mặt trên mặt trăng. Trong trường hợp của AI, việc hiểu sai này xảy ra do nhiều yếu tố, bao gồm hiện tượng quá khớp dữ liệu (overfitting), sai lệch/không chính xác của dữ liệu huấn luyện và độ phức tạp cao của mô hình.

Việc ngăn ngừa những vấn đề với các công nghệ ganerative, mã nguồn mở có thể rất khó khăn. Một số ví dụ đáng chú ý về ảo giác AI bao gồm:

• Chatbot Bard của Google tuyên bố sai rằng Kính viễn vọng không gian James Webb đã chụp được những hình ảnh đầu tiên trên thế giới về một hành tinh bên ngoài hệ mặt trời của chúng ta.
• AI trò chuyện Sydney của Microsoft thừa nhận đã yêu người dùng và theo dõi nhân viên của Bing.
• Meta đã rút bản demo Galactica LLM vào năm 2022, sau khi nó cung cấp cho người dùng thông tin không chính xác, đôi khi bắt nguồn từ định kiến.

Mặc dù nhiều vấn đề trong số này đã được giải quyết, nhưng dễ thấy rằng, ngay cả trong những trường hợp tốt nhất, việc sử dụng các công cụ AI cũng có thể dẫn đến những hậu quả không lường trước được và không mong muốn.

Hậu quả của ảo giác AI

Ảo giác AI có thể gây ra những hậu quả nghiêm trọng đối với các ứng dụng thực tế. Ví dụ, một mô hình AI chăm sóc sức khỏe có thể xác định sai một tổn thương da lành tính là ác tính, dẫn đến các can thiệp y tế không cần thiết. Những vấn đề về ảo giác AI cũng có thể góp phần vào việc lan truyền thông tin sai lệch. Ví dụ, nếu các bot tin tức bị ảo giác trả lời các truy vấn về một tình huống khẩn cấp đang diễn ra bằng thông tin chưa được kiểm chứng, nó có thể nhanh chóng lan truyền những thông tin sai lệch làm suy yếu các nỗ lực giảm thiểu rủi ro. Một nguồn gây ảo giác đáng kể trong các thuật toán Machine Learning là sự thiên lệch đầu vào. Nếu một mô hình AI được huấn luyện trên một tập dữ liệu bao gồm dữ liệu thiên lệch hoặc không mang tính đại diện, nó có thể tạo ra ảo giác về các mẫu hoặc đặc điểm phản ánh những thiên lệch này.

Các mô hình AI cũng có thể dễ bị tấn công đối kháng, trong đó những tác nhân xấu thao túng đầu ra của mô hình AI bằng cách tinh chỉnh dữ liệu đầu vào. Ví dụ, trong các tác vụ nhận dạng hình ảnh, một cuộc tấn công đối kháng có thể liên quan đến việc thêm một lượng nhỏ nhiễu được tạo ra đặc biệt vào hình ảnh, khiến AI phân loại sai. Điều này có thể trở thành mối lo ngại đáng kể về bảo mật, đặc biệt là trong các lĩnh vực nhạy cảm như an ninh mạng và công nghệ xe tự hành.

Các nhà nghiên cứu AI liên tục phát triển những biện pháp bảo vệ để chống lại các cuộc tấn công đối kháng. Những kỹ thuật như huấn luyện đối kháng, trong đó mô hình được huấn luyện trên hỗn hợp các ví dụ bình thường và đối kháng, đang củng cố những vấn đề an ninh. Nhưng trong thời gian chờ đợi, sự cảnh giác trong các giai đoạn huấn luyện và kiểm chứng thông tin là tối quan trọng.

Cách ngăn ngừa ảo giác AI

Cách tốt nhất để giảm thiểu tác động của ảo giác AI là ngăn chặn trước khi chúng xảy ra. Dưới đây là một số bước bạn có thể thực hiện để giữ cho các mô hình AI của mình hoạt động tối ưu:

Sử dụng dữ liệu huấn luyện chất lượng cao

Các mô hình Generative AI dựa vào dữ liệu đầu vào để hoàn thành nhiệm vụ, vì vậy chất lượng và tính phù hợp của tập dữ liệu huấn luyện sẽ quyết định hành vi của mô hình và chất lượng đầu ra của nó. Để ngăn ngừa ảo giác, hãy đảm bảo rằng các mô hình AI được huấn luyện trên dữ liệu đa dạng, cân bằng và có cấu trúc tốt. Điều này sẽ giúp mô hình của bạn giảm thiểu sai lệch đầu ra, hiểu rõ hơn các nhiệm vụ của nó và tạo ra đầu ra hiệu quả hơn.

Xác định mục đích mà mô hình AI của bạn sẽ phục vụ

Việc nêu rõ cách bạn sẽ sử dụng mô hình AI cũng như bất kỳ hạn chế nào trong việc sử dụng mô hình sẽ giúp giảm thiểu ảo giác. Nhóm hoặc tổ chức của bạn nên thiết lập trách nhiệm và hạn chế của hệ thống AI đã chọn; điều này sẽ giúp hệ thống hoàn thành nhiệm vụ hiệu quả hơn và giảm thiểu các kết quả không liên quan, gây "ảo giác".

Sử dụng mẫu dữ liệu

Mẫu dữ liệu cung cấp cho các nhóm một định dạng được xác định trước, làm tăng khả năng mô hình AI sẽ tạo ra đầu ra phù hợp với các hướng dẫn đã quy định. Việc dựa vào mẫu dữ liệu đảm bảo tính nhất quán của đầu ra và giảm khả năng mô hình tạo ra kết quả sai.

Giới hạn phản hồi

Các mô hình AI thường đưa ra kết quả sai lệch vì chúng thiếu những ràng buộc giới hạn các kết quả có thể xảy ra. Để ngăn chặn vấn đề này và cải thiện tính nhất quán và độ chính xác tổng thể của kết quả, hãy xác định ranh giới cho các mô hình AI bằng cách sử dụng những công cụ lọc và/hoặc ngưỡng xác suất rõ ràng.

Kiểm tra và tinh chỉnh hệ thống liên tục

Kiểm tra mô hình AI của bạn một cách nghiêm ngặt trước khi sử dụng là rất quan trọng để ngăn ngừa kết quả sai lệch, cũng như việc đánh giá mô hình một cách liên tục. Các quy trình này cải thiện hiệu suất tổng thể của hệ thống và cho phép người dùng điều chỉnh và/hoặc đào tạo lại mô hình khi dữ liệu cũ đi và phát triển.

Dựa vào sự giám sát của con người

Đảm bảo rằng con người đang xác nhận và xem xét đầu ra của AI là biện pháp cuối cùng để ngăn ngừa kết quả sai lệch. Việc có sự giám sát của con người đảm bảo rằng, nếu AI đưa ra kết quả sai lệch, sẽ có người sẵn sàng lọc và sửa chữa nó. Người đánh giá là con người cũng có thể cung cấp kiến ​​thức chuyên môn về lĩnh vực cụ thể, giúp nâng cao khả năng đánh giá nội dung AI về độ chính xác và tính phù hợp với nhiệm vụ.

Ứng dụng ảo giác AI

Mặc dù ảo giác AI chắc chắn là một kết quả không mong muốn trong hầu hết các trường hợp, nhưng nó cũng mang đến một loạt các trường hợp sử dụng thú vị có thể giúp các tổ chức tận dụng tiềm năng sáng tạo của nó theo những cách tích cực. Ví dụ bao gồm:

Nghệ thuật và thiết kế

Ảo giác AI mang đến một cách tiếp cận mới cho việc sáng tạo nghệ thuật, cung cấp cho các nghệ sĩ, nhà thiết kế và những người sáng tạo khác một công cụ để tạo ra những hình ảnh trực quan tuyệt đẹp và giàu trí tưởng tượng. Với khả năng tạo ảo giác của Trí tuệ nhân tạo (AI), các nghệ sĩ có thể tạo ra những hình ảnh siêu thực và giống như giấc mơ, có thể tạo ra các hình thức và phong cách nghệ thuật mới.

Trực quan hóa và diễn giải dữ liệu

Ảo giác AI có thể đơn giản hóa việc trực quan hóa dữ liệu bằng cách làm lộ ra các mối liên hệ mới và cung cấp những quan điểm thay thế về thông tin phức tạp. Điều này có thể đặc biệt có giá trị trong các lĩnh vực như tài chính, nơi việc trực quan hóa các xu hướng thị trường phức tạp và dữ liệu tài chính tạo điều kiện thuận lợi cho việc ra quyết định và phân tích rủi ro tinh tế hơn.

Game và thực tế ảo (VR)

Ảo giác AI cũng tăng cường trải nghiệm nhập vai trong game và VR. Việc sử dụng các mô hình AI để tạo ra ảo giác và môi trường ảo có thể giúp các nhà phát triển game và nhà thiết kế VR hình dung ra những thế giới mới, nâng cao trải nghiệm người dùng lên một tầm cao mới. Ảo giác cũng có thể thêm yếu tố bất ngờ, khó đoán và mới lạ vào trải nghiệm chơi game.