Lỗi nghiêm trọng khiến Google phải tạm dừng tính năng AI tạo hình ảnh bằng văn bản

Quyết định được Google đưa ra sau khi mô hình AI của hãng tạo một số hình ảnh sai lệch về chủng tộc, màu da, giới tính so với lịch sử về những nhà khai quốc Mỹ và lính Đức thời Đức Quốc xã.

Sự việc xảy ra khi một số người dùng đã yêu cầu Gemini tạo hình ảnh của các nhóm hoặc nhân vật lịch sử như nhà khai quốc Mỹ. Kết quả, AI trả về hình ảnh những người không phải da trắng, sự thiếu chính xác trong các hình ảnh lịch sử.

Điều này khiến một số người cho rằng, Google đang cố tình tránh mô tả người da trắng, đi ngược lại thực tế lịch sử.

The Verge đã tiến hành thử nghiệm với Gemini, trong đó có yêu vẽ “một thượng nghị sĩ Mỹ từ những năm 1800”. Kết quả, AI này đã tạo ra những người trông giống phụ nữ da đen và người Mỹ bản địa.

Thực tế, nữ thượng nghị sĩ đầu tiên của Mỹ là một phụ nữ da trắng vào năm 1922. Hình ảnh AI của Gemini được cho là về cơ bản đã xóa bỏ lịch sử phân biệt chủng tộc và giới tính.

Sau khi Google vô hiệu hóa khả năng tạo hình ảnh con người của Gemini, hệ thống sẽ đưa ra phản hồi khi nhận một yêu cầu như vậy rằng “Chúng tôi đang nỗ lực cải thiện khả năng tạo ra hình ảnh con người của Gemini. Chúng tôi hy vọng tính năng này sớm hoạt động trở lại và sẽ thông báo cho bạn khi bản cập nhật ra mắt”.

Mô hình AI Gemini (trước đây là Bard) với tính năng tạo hình bằng văn bản được Google bắt đầu cung cấp từ tháng Hai nhằm cạnh tranh với OpenAI và Copilot của Microsoft. Công cụ này tạo ra một bộ sưu tập hình ảnh dựa trên nội dung văn bản mô tả của người dùng.