Gemini đưa người dùng thẳng đến một trang lừa đảo sau khi tìm kiếm web

Trí tuệ nhân tạo (AI) đang len lỏi vào nhiều lĩnh vực của Internet, trả lời các truy vấn tìm kiếm, đề xuất tải xuống và thậm chí quyết định email nào đáng được bạn chú ý. Nhưng nghe có vẻ hữu ích không có nghĩa là AI luôn biết mình đang làm gì.

Gemini dẫn người dùng đến các trang download nổi tiếng về việc phát tán phần mềm độc hại

Một người dùng định tìm kiếm các ứng dụng để ghi lại màn hình và chợt nghĩ, tại sao không để Gemini xử lý toàn bộ việc này như một thử nghiệm. Người này đã để Gemini gợi ý một vài công cụ và liên kết trực tiếp đến các trang tải xuống. Ban đầu, Gemini đưa ra một danh sách trông có vẻ ổn, nhưng một trong các liên kết tải xuống lại dẫn đến Softonic.

Nếu bạn chưa biết về Softonic, thì đây là một trong những trang web trông có vẻ vô hại nhưng thực chất không phải vậy. Nó đã tồn tại trong nhiều năm, và mục đích chính là đóng gói lại các ứng dụng phổ biến trong trình cài đặt của riêng họ, thường đi kèm với phần mềm quảng cáo, trình duyệt giả mạo hoặc các phần mềm không mong muốn khác.

Softonic sử dụng các kỹ thuật SEO mạnh để xuất hiện gần đầu kết quả tìm kiếm của Google, mặc dù nổi tiếng là không đáng tin cậy. Giờ đây, rõ ràng là Softonic còn đang len lỏi vào cả những câu trả lời do AI tạo ra.

Nhiều người đã sử dụng Internet đủ lâu để biết Softonic là một dấu hiệu cảnh báo. Nhưng nếu đó là một người như bố mẹ bạn, hay thành thật mà nói, bất kỳ ai khác chỉ muốn một ứng dụng quay màn hình, có lẽ họ sẽ không ngần ngại nhấp vào liên kết. Họ tin tưởng Gemini sẽ cung cấp các liên kết an toàn, nhấp vào kết quả đầu tiên và vô tình cài đặt phần mềm rác vào máy tính của mình.

Đó là điều khiến chúng ta lo lắng nhất. Những công cụ này nghe có vẻ đáng tin và chính thức, nhưng khi đang vội hoặc không rành về công nghệ, bạn rất dễ bị lừa.

AI Overviews của Google không làm tình hình tốt hơn

Nếu tìm kiếm bất cứ điều gì gần đây trên Google, bạn có thể đã thấy những khối văn bản lớn ở đầu trang cố gắng trả lời câu hỏi của bạn ngay lập tức. Chúng được gọi là AI Overviews. Chúng được tạo tự động bởi một LLM và lấy thông tin từ khắp nơi trên web để cung cấp cho người dùng một bản tóm tắt - giống như những gì Gemini làm, nhưng được tích hợp trực tiếp vào Google Search.

Mặc dù có vẻ tiện lợi, nhưng không phải lúc nào cũng nên tin tưởng vào những kết quả này. Đã có những trường hợp AI Overviews liên kết người dùng đến các trang web mờ ám hoặc hoàn toàn giả mạo. Một số trang web này trông giống như các cửa hàng hoặc dịch vụ trực tuyến nhưng chỉ nhằm mục đích lấy tiền hoặc lừa người dùng cài đặt thứ gì đó độc hại.

Vấn đề lớn hơn là điều này không xảy ra trên một công cụ ngẫu nhiên nào đó, mà nó xảy ra bên trong Google, nơi mà hầu hết mọi người vẫn hoàn toàn tin tưởng. Không giống như các LLM, nơi người dùng vẫn còn thận trọng hơn một chút, nhiều người thậm chí còn không nhận ra rằng những kết quả tìm kiếm hàng đầu này được tạo ra bởi AI, vì vậy họ nhấp vào chúng mà không cần suy nghĩ thêm.

May mắn thay, có một vài giải pháp tạm thời nếu bạn muốn tắt AI Overviews, mặc dù chúng không phải là cách dễ nhất. Tuy nhiên, việc này có thể đáng làm nếu bạn muốn bám sát các liên kết và nguồn thực tế thay vì dựa vào thứ gì đó có thể gây ra sai sót nguy hiểm.

Không chỉ Gemini - các trợ lý AI khác cũng gặp vấn đề

Thật không may, Google không phải là công ty duy nhất gặp khó khăn với những vấn đề như thế này. Đã có những thông tin nói về việc Apple Intelligence kém cỏi như thế nào khi đề cập đến các tính năng, thậm chí một số chức năng của nó thực sự có thể gây nguy hiểm.

Một ví dụ là tính năng Priority Messages (Tin nhắn ưu tiên) trong ứng dụng Mail. Tính năng này được cho là sẽ hiển thị các cảnh báo quan trọng nhất ở đầu danh sách để bạn không bỏ lỡ bất kỳ thông tin quan trọng nào.

Nhưng đã có những trường hợp nó đánh dấu email lừa đảo từ các ngân hàng giả mạo mà không hề kiểm tra xem người gửi có vẻ đáng ngờ hay tin nhắn có dấu hiệu cảnh báo nào không. Đối với một ứng dụng được thiết kế để giúp cuộc sống dễ dàng hơn, thì đó là một sự thiếu sót rất lớn. Điều này gần như buộc nhiều người phải tắt hoàn toàn Apple Intelligence trên iPhone của bố mẹ mình.

Mối quan ngại lớn hơn là mọi người đặt quá nhiều niềm tin mù quáng vào những tính năng như thế này. Nếu điện thoại của bạn nói rằng điều gì đó quan trọng, bạn sẽ tin vào điều đó. Và niềm tin đó có thể dễ dàng bị lợi dụng khi các công cụ AI này thậm chí không thể phát hiện ra những điều cơ bản - chẳng hạn như một email ngân hàng rõ ràng là giả mạo. Những sai lầm này có vẻ nhỏ, nhưng chúng có thể gây ra hậu quả nghiêm trọng trong thực tế nếu không được xử lý đúng cách.