AI với khả năng đọc cảm xúc con người của Microsoft bị khai tử

Microsoft đang dần loại bỏ quyền truy cập công cộng của cá nhân và tổ chức vào một số công cụ phân tích khuôn mặt AI của họ. Trong đó bao gồm một công cụ với khả năng xác định cảm xúc của chủ thể trong video và ảnh.

Những công cụ xác định cảm xúc tương tự đã bị các chuyên gia chỉ trích gay gắt. Theo các chuyên gia, mỗi nhóm dân số, sắc tộc khác nhau sẽ có các kiểu biểu cảm khác nhau. Bên cạnh đó, thực sự là phản khoa học khi đánh đồng cảm xúc trên khuôn mặt với cảm xúc thực sự của một con người.

"Các công ty có thể nói bất cứ điều gì họ muốn nhưng dữ liệu thống kê chỉ ra một câu chuyện khá mạch lạc. Một ai đó có thể trưng ra bộ mặt cau có nhưng điều đó không thể khẳng định rằng anh ta tức giận như những gì AI phát hiện ra", Lisa Feldman Barrett, giáo sư tâm lý học tại Đại học Northeastern, người đã thực hiện một bài đánh giá về chủ đề khả năng phát hiện cảm xúc của AI, chia sẻ.

Quyết định mới được đưa ra là một phần trong cuộc đại tu các chính sách đạo đức liên quan tới AI của Microsoft. Bộ quy tắc Responsible AI Standards (đưa ra lần đầu vào năm 2019) của Microsoft có các điều khoản để dễ dàng tìm ra ai sử dụng các dịch vụ của họ và cần có sự giám sát chặt chẽ hơn của con người ở các khu vực áp dụng những công cụ AI.

Chi tiết hơn, điều này có nghĩa là Microsoft sẽ giới hạn quyền truy cập vào một số tính năng của dịch vụ nhân dạng khuôn mặt mà họ đang cung cấp (có tên Azure Face) và loại bỏ hoàn toàn các tính năng khác. Người dùng sẽ phải đăng ký sử dụng Azure Face để nhận dạng khuôn mặt, ví dụ như cho Microsoft biết chính xác cách thức và vị trí họ sẽ triển khai Azure Face. Một số trường hợp sử dụng có ít khả năng gây hại hơn (như tự động làm mờ hình ảnh và video) vẫn sẽ được phép truy cập công cộng.

Ngoài việc loại bỏ quyền truy cập công cộng vào công cụ đọc cảm xúc, Microsoft cũng khai tử khả năng xác định các thuộc tính như giới tính, tuổi tác, nụ cười, râu, tóc và trang điểm của Azure Face.

Microsoft cho biết họ sẽ ngừng cung cấp các tính năng này cho khách hàng mới kể từ ngày 21/6/2022. Trong khi đó, các khách hàng cũ sẽ bị thu hồi quyền truy cập vào ngày 30/6/2022.

Mặc dù thu hồi quyền với người ngoài nhưng Microsoft vẫn sẽ sử dụng các tính năng kể trên trong một ứng dụng của riêng họ. Ứng dụng này mang tên Seeing AI, sử dụng thị giác máy để mô tả thế giới cho những người bị khiếm thị.

Microsoft cũng đưa ra các hạn chế tương tự với Custom Neural Voice, một công cụ chi phép người dùng tạo ra giọng nói AI dựa trên bản ghi âm của một người thật (đôi khi còn được gọi là audio deepfake).