Trí tuệ nhân tạo sẽ ảnh hưởng đến phần mềm độc hại trong tương lai như thế nào?

Trí tuệ nhân tạo (AI) sẽ làm giảm chi phí của đối thủ theo nhiều cách khác nhau, nhưng khó có thể tác động đến công nghệ tiên tiến liên quan đến việc phát triển hoặc khả năng của phần mềm độc hại.

AI đang thay đổi cách tin tặc xây dựng phần mềm độc hại

Đã có rất nhiều bàn luận về tác động của AI đến cách chúng ta xây dựng, phát triển và hiểu phần mềm. Và phần mềm độc hại cũng chỉ là phần mềm, mặc dù có rất ít (hoặc không có) đặc tính tốt.

Dưới đây là danh sách chưa đầy đủ các trường hợp sử dụng AI liên quan đến phát triển phần mềm, cách nó có thể liên quan cụ thể đến phần mềm độc hại và tác động của nó đối với những chương trình bảo vệ:

Tạo phần mềm từ đầu

Tạo một script Python lắng nghe các yêu cầu trên cổng TCP 4000 và phản hồi bằng chuỗi "redcanary".

Điều này có thể đẩy nhanh quá trình sản xuất phần mềm độc hại, dẫn đến sự gia tăng các họ phần mềm độc hại mới. Mặc dù điều này đặt ra thách thức cho những chương trình bảo vệ vì có thể có nhiều phần mềm độc hại xuất hiện thường xuyên hơn, nhưng kinh nghiệm của chúng ta với kỹ thuật phát hiện cho thấy rằng các phân tích phát hiện hiệu quả trong việc bắt giữ những mối đe dọa hiện nay thường cũng hiệu quả trong việc bắt giữ các mối đe dọa trong tương lai.

Thay đổi cấu trúc phần mềm hiện có

Viết lại chương trình Python này sao cho chức năng vẫn giống nhau nhưng mã nguồn không hoàn toàn giống hệt.

Về cơ bản, khả năng này không khác biệt so với các công cụ mã hóa mà những kẻ tạo ra phần mềm độc hại đã sử dụng trong nhiều năm để né tránh các công nghệ và phương pháp phát hiện dựa trên chữ ký.

Hiểu cách hoạt động của một phần mềm hiện có

Mô tả chức năng của phương thức Python này bằng ngôn ngữ đơn giản.

Trường hợp sử dụng AI này thực tế có thể mang lại lợi ích cho chương trình bảo vệ nhiều hơn là cho kẻ thù, vì nó sẽ cho phép họ hiểu rõ hơn mục đích của một loại phần mềm độc hại cụ thể.

Thay đổi chức năng của một phần mềm hiện có

Thêm một phương thức vào chương trình này để thực hiện X.

Điều này có thể làm cho phần mềm độc hại trở nên năng động và có tính mô-đun hơn, mang lại sự linh hoạt hơn cho kẻ thù. Điều này có thể gây khó khăn cho chương trình bảo vệ, đặc biệt là trong việc xử lý và ứng phó sự cố, khi họ cố gắng phân loại phần mềm độc hại và hiểu mục đích cũng như tác động của nó.

Chuyển đổi một phần mềm hiện có sang ngôn ngữ khác

Tạo lại mô-đun Python này và chức năng của nó bằng ngôn ngữ Go.

Giống như các ví dụ trước, khả năng nhanh chóng dịch mã độc hại giữa nhiều ngôn ngữ lập trình khác nhau sẽ mang lại mức độ linh hoạt mới cho các tác giả phần mềm độc hại, có khả năng thách thức chương trình bảo vệ trong việc tạo ra những biện pháp kiểm soát an ninh bù đắp mới.

Chúng ta sẽ sử dụng các trường hợp sử dụng này để định hình cách chúng ta kỳ vọng AI sẽ ảnh hưởng đến hệ sinh thái phần mềm độc hại, bao gồm một số điều dường như ít có khả năng xảy ra trong thời gian ngắn (mối lo ngại về tầm nhìn), nhưng cũng có một số cách mà chúng ta kỳ vọng các đối thủ sẽ tận dụng AI để giảm chi phí hơn nữa trong khi tăng hiệu quả.

Mối lo ngại lớn: Sử dụng AI để phát triển các khả năng phần mềm độc hại hoàn toàn mới

Có vẻ như không chắc chắn rằng chúng ta sẽ thấy AI được sử dụng trong tương lai gần để tạo ra các khả năng phần mềm độc hại thực sự mới hoặc độc đáo. Khi nói về khả năng trong ngữ cảnh này, chúng ta muốn nói đến việc triển khai một tính năng hoặc chức năng chưa từng được quan sát trước đây (đúng vậy, có rất nhiều phần mềm độc hại mà ngành công nghiệp nói chung chưa từng quan sát thấy - đây là một cuộc thảo luận khác không liên quan đến AI). Hàm ý ở đây là AI sẽ cho phép tạo ra phần mềm mà một người không có sự hỗ trợ trước đây không thể tự mình nghĩ ra hoặc triển khai.

Lý do cho suy nghĩ này có hai mặt: Thứ nhất, có thể nhưng không chắc chắn rằng AI sẽ dẫn đến việc phát hiện ra các con đường tấn công phần mềm mới. Trong bối cảnh phần mềm độc hại, điều này có nghĩa là xác định các phương thức mới để thực thi, di chuyển ngang từ hệ thống hoặc nền tảng này sang hệ thống hoặc nền tảng khác, v.v... Thứ hai, phần mềm độc hại được tạo ra hoặc sửa đổi bởi AI không thể thay đổi đặc điểm của nền tảng mục tiêu giống như đối thủ là con người. AI có thể thay đổi cách thức hoạt động của phần mềm độc hại, nhưng nó không thể thay đổi một cách kỳ diệu những gì phần mềm độc hại cần làm để giúp đối thủ đạt được mục tiêu của họ.

Trong tất cả các trường hợp sử dụng tiềm năng, việc sử dụng AI để tạo ra những khả năng phần mềm độc hại mới sẽ là một trong nhiều trường hợp đáng lo ngại nhất, nhưng cũng là trường hợp ít có khả năng xảy ra nhất. AI chắc chắn sẽ được sử dụng để tạo ra phần mềm độc hại mới. AI đang được sử dụng để tạo ra phần mềm độc hại mới ngày nay. Nhưng AI không tạo ra phần mềm độc hại mới định nghĩa lại công nghệ hiện có, hoặc làm cho các phương pháp phòng thủ hiện tại trở nên không hiệu quả.

Sử dụng AI để hiểu và thích nghi với phần mềm độc hại

Sự khác biệt giữa việc biến đổi phần mềm độc hại và thích nghi nó phụ thuộc vào việc phần mềm mới có các tính năng hoặc chức năng độc đáo hay không. Và bước đầu tiên trong việc thêm chức năng mới là hiểu trạng thái hiện tại của phần mềm độc hại. Một ứng dụng tiềm năng của AI liên quan đến việc giảm chi phí cho kẻ thù là nó có thể làm giảm rào cản gia nhập để hiểu, và sau đó thay đổi, code và chức năng của phần mềm độc hại.

Chúng ta đã vượt xa thời điểm mà kẻ thù cần phải là chuyên gia, hoặc thậm chí là các nhà khoa học máy tính giàu kinh nghiệm. Hệ sinh thái "dưới dạng dịch vụ" đã tạo điều kiện cho một thế hệ kẻ thù cần hiểu về kinh doanh, dịch vụ khách hàng và các điểm dễ bị tổn thương khác nhau của nạn nhân hơn là hiểu về khoa học máy tính.

Một điều cần theo dõi liên quan đến AI là liệu công nghệ mới này có cho phép kẻ thù thích nghi hoặc cải thiện khả năng mà không cần bất kỳ kinh nghiệm lập trình nào hay không. Một cách lạc quan, các công cụ AI cũng có thể là một lợi ích cho những chương trình bảo vệ, giúp các nhà phân tích có ít kinh nghiệm phát triển phần mềm dễ dàng hiểu được phần mềm độc hại mới.