AI mới có thể giả mạo chữ viết tay của người dùng

Các nhà nghiên cứu tại Đại học Trí tuệ nhân tạo Mohamed bin Zayed (MBZUAI) ở Abu Dhabi (UAE) đã phát triển một chương trình trí tuệ nhân tạo có thể bắt chước thành công chữ viết tay của con người dựa trên một vài đoạn văn bản thật đến nỗi không thể phân biệt được.

Bước đột phá lớn nhất ở hệ thống AI của Dubai là tạo ra các kết nối về khoảng cách vật lý giữa các văn bản trong một hình ảnh, cụ thể là cách người viết kết nối các chữ cái và giãn cách các từ của họ.

Nhóm nghiên cứu đã sử dụng mạng lưới thần kinh máy tính được gọi là “máy biến đổi tầm nhìn” để đọc thông tin trên các hình ảnh cỡ nhỏ hoặc vừa. Kết quả thử nghiệm cho thấy, hệ thống AI có thể nắm bắt chính xác chữ viết của một người khiến người xem không thể phân biệt chữ viết tay mô phỏng với chữ viết tay thực tế.

Công cụ hiện có thể tạo văn bản tiếng Anh và tiếng Pháp nhưng nó vẫn gặp khó khăn trong việc "học theo" chữ viết tay bằng tiếng Ả Rập.

Tuy nhiên, các nhà nghiên cứu cho biết việc triển khai hệ thống AI này cần thận trọng bởi lo ngại nó có thể bị lạm dụng để mạo danh.

Nhiều chuyên gia hiện đã thừa nhận sức mạnh đáng sợ cũng như mối nguy hiểm tiềm tàng khi AI có thể bắt chước con người bằng cách tái tạo giọng nói, hình ảnh. Chúng có thể bị kẻ xấu lợi dụng và sử dụng sai mục đích như tạo ra phần mềm độc hại và lên kịch bản cho những hành vi lừa đảo trực tuyến, thực hiện các cuộc gọi lừa đảo. Thậm chí một số người còn lo ngại rằng, có thể sẽ xảy ra viễn cảnh trí tuệ nhân tạo bị lợi dụng và trở thành tay sai của kẻ xấu giống như trong các bộ phim khoa học viễn tưởng.