Google cảnh báo hacker lạm dụng Gemini để tăng tốc tấn công mạng

Google cho biết các nhóm hacker đang lạm dụng Gemini nhằm đẩy nhanh quá trình thực hiện các cuộc tấn công mạng – và điều này không chỉ dừng lại ở những email lừa đảo đơn giản.

Trong một báo cáo mới từ Google Threat Intelligence Group, hãng cho biết các nhóm hacker được nhà nước hậu thuẫn đã sử dụng Gemini ở nhiều giai đoạn của một chiến dịch tấn công, từ khâu nghiên cứu mục tiêu ban đầu cho đến các hoạt động sau khi đã xâm nhập hệ thống thành công.

Hoạt động này liên quan đến nhiều cụm tấn công có liên hệ với Trung Quốc, Iran, Triều Tiên và Nga. Google ghi nhận các prompt và nội dung đầu ra bao gồm: thu thập hồ sơ mục tiêu, soạn nội dung lừa đảo theo kiểu social engineering, dịch thuật, hỗ trợ viết mã, kiểm thử lỗ hổng và sửa lỗi khi công cụ gặp trục trặc trong quá trình xâm nhập.

Dù chỉ hỗ trợ các tác vụ “thường ngày”, việc xử lý nhanh hơn các bước này vẫn có thể thay đổi cục diện của một cuộc tấn công.

Theo các nhà nghiên cứu của Google, việc sử dụng AI mang tính “tăng tốc” hơn là tạo ra chiến thuật hoàn toàn mới. Tin tặc vốn đã thực hiện các bước như trinh sát, soạn nội dung dụ dỗ, chỉnh sửa mã độc và khắc phục lỗi. Gemini đơn giản là giúp rút ngắn vòng lặp này, đặc biệt khi kẻ tấn công cần chỉnh sửa nhanh nội dung, hỗ trợ ngôn ngữ hoặc sửa code trong điều kiện áp lực cao.

Báo cáo mô tả một hoạt động liên quan đến Trung Quốc, trong đó một tác nhân giả danh chuyên gia an ninh mạng và yêu cầu Gemini tự động hóa việc phân tích lỗ hổng, đồng thời xây dựng kế hoạch kiểm thử mục tiêu trong một kịch bản giả định. Google cũng cho biết một tác nhân khác có trụ sở tại Trung Quốc liên tục dùng Gemini để debug, nghiên cứu và xin hướng dẫn kỹ thuật phục vụ cho hoạt động xâm nhập.

Rủi ro không chỉ nằm ở phishing

Điểm thay đổi lớn nhất mà Google nhấn mạnh là nhịp độ. Khi các nhóm tấn công có thể lặp lại quy trình nhanh hơn – từ chọn mục tiêu đến tinh chỉnh công cụ – thì đội phòng thủ sẽ có ít thời gian hơn giữa những tín hiệu cảnh báo ban đầu và thiệt hại thực sự.

Điều này cũng đồng nghĩa với việc ít xuất hiện những khoảng trống do sai sót thủ công, trì hoãn hay thao tác lặp lại – những dấu hiệu vốn có thể bị phát hiện trong log hệ thống.

Google còn cảnh báo một mối đe dọa khác ít giống lừa đảo truyền thống: trích xuất mô hình (model extraction) và chưng cất kiến thức (knowledge distillation). Trong kịch bản này, các tác nhân có quyền truy cập API hợp pháp sẽ gửi hàng loạt prompt nhằm tái tạo cách mô hình hoạt động và suy luận, sau đó dùng thông tin đó để huấn luyện một mô hình khác.

Google xem đây là rủi ro về thương mại và sở hữu trí tuệ, nhưng nếu mở rộng quy mô, nó có thể kéo theo những hệ lụy sâu rộng hơn. Báo cáo nêu ví dụ một trường hợp gửi tới 100.000 prompt nhằm sao chép hành vi xử lý các tác vụ không phải tiếng Anh.

Doanh nghiệp nên theo dõi điều gì?

Google cho biết đã vô hiệu hóa các tài khoản và hạ tầng liên quan đến hành vi lạm dụng Gemini được ghi nhận, đồng thời bổ sung các cơ chế phòng vệ có mục tiêu vào hệ thống phân loại của Gemini. Hãng cũng nhấn mạnh việc tiếp tục thử nghiệm và duy trì các lớp bảo vệ an toàn.

Với các đội ngũ an ninh mạng, thông điệp thực tế là: hãy giả định rằng các cuộc tấn công có hỗ trợ AI sẽ diễn ra nhanh hơn, chứ chưa chắc “thông minh” hơn. Cần theo dõi những dấu hiệu như chất lượng nội dung lừa đảo cải thiện đột ngột, tốc độ phát triển công cụ tăng nhanh bất thường, hoặc các mẫu truy cập API khác lạ. Đồng thời, quy trình phản ứng sự cố cũng cần được tối ưu để tốc độ không trở thành lợi thế lớn nhất của kẻ tấn công.