Mỹ trao giải thưởng 25.000 USD giải pháp nhận diện giọng nói AI

Các công cụ AI hiện đại có khả năng bắt chước giọng nói của người thật ấn tượng đến mức đáng lo ngại. Đối với bất cứ mục đích giải trí hoặc hỗ trợ công việc nào, đều có những ứng dụng lợi dụng sự phát triển của công nghệ để thực hiện các hành vi lừa đảo độc hại.

Ủy ban Thương mại Liên bang Hoa Kỳ (FTC) hiện nằm trong số những cơ quan đặc biệt dành sự quan tâm đến vấn đề này, và đang triển khai các hành động phòng ngừa đầu tiên. Theo báo cáo từ Bleeping Computer, đầu tuần này, FTC đã bắt đầu chấp nhận các bài dự thi đầu tiên thuộc chương trình Voice Cloning Challenge. Đúng như tên gọi, đây là cuộc thi nhằm mục đích tìm kiếm những ý tưởng giúp bảo vệ người tiêu dùng khỏi nguy cơ từ các ứng dụng nhân bản giọng nói do AI hỗ trợ, phục vụ cho hoạt động gian lận, lừa đảo. Những ý tưởng được đánh giá cao nhất có thể nhận được giải thưởng trị giá 25.000 đô la.

Tất cả các ý tưởng dự thi sẽ được đánh giá dựa trên tính khả thi thực tế, tác động đến trách nhiệm giải trình của doanh nghiệp và gánh nặng đối với người tiêu dùng, cũng như khả năng phục hồi trước những tiến bộ công nghệ nhanh chóng trong lĩnh vực này.

Chương trình Voice Cloning Challenge là một phần trong nỗ lực tìm cách chống lại việc lạm dụng công nghệ nhân bản giọng nói của FTC, khi công nghệ này ngày càng trở nên phức tạp hơn do sự cải tiến của tính năng chuyển văn bản thành giọng nói với sự trợ giúp của thuật toán trí tuệ nhân tạo.

AI có thể được sử dụng để sao chép giọng nói của ai đó bằng cách phân tích đoạn âm thanh của mục tiêu đang nói để trích xuất các đặc điểm giọng nói độc đáo, sau đó sử dụng dữ liệu đào tạo để tạo ra giọng nói mới giống hệt.

Mặc dù việc nhân bản giọng nói cũng có những mục đích sử dụng hợp pháp, chẳng hạn như dịch vụ chuyển văn bản thành giọng nói được cá nhân hóa và các công cụ hỗ trợ dành cho người khuyết tật. Nhưng kẻ gian cũng có thể sử dụng công nghệ này cho các hoạt động gian lận như lừa đảo bằng giọng nói, tống tiền…

Bằng cách mạo danh giọng nói của một người quen thuộc với mục tiêu, chẳng hạn như thành viên gia đình hoặc người nổi tiếng, những kẻ độc hại có thể dễ dàng lừa mọi người tin vào những tuyên bố được đưa ra trong cuộc gọi hoặc tin nhắn thoại.

Thông qua chương trình Voice Cloning Challenge , FTC đặt mục tiêu tìm ra giải pháp có thể xác định các trường hợp nhân bản giọng nói với sự trợ giúp của AI tổng hợp. Cơ quan này gọi đây là “một thách thức mang tính khám phá” có khả năng đưa ra hướng đi cho nỗ lực giảm thiểu rủi ro trong thời đại trí tuệ nhân tạo.