Microsoft công bố công cụ mới giúp phát hiện và sửa nội dung ảo giác trong dữ liệu đầu ra AI

Azure AI Content Safety là dịch vụ AI của Microsoft giúp phát hiện nội dung có hại do AI tạo ra trong các ứng dụng, dịch vụ và nền tảng khác nhau. Tiện ích này cung cấp cả API văn bản và hình ảnh, cho phép các nhà phát triển xác định nội dung không mong muốn.

API Groundedness trong Azure AI Content Safety có khả năng nhận diện xem phản hồi của mô hình ngôn ngữ lớn có dựa trên tài liệu nguồn do người dùng chọn hay không. Vì các mô hình ngôn ngữ lớn hiện tại có thể tạo ra thông tin không chính xác hoặc không có thật (thông tin ảo giác), nên API này giúp các nhà phát triển xác định những nội dung như vậy trong dữ liệu đầu ra AI.

Hôm nay, Microsoft đã công bố bản preview của khả năng sửa lỗi. Theo đó, các nhà phát triển hiện có thể phát hiện và sửa nội dung “ảo giác” trong dữ liệu đầu ra AI theo thời gian thực, đảm bảo người dùng cuối luôn nhận được nội dung do AI tạo ra chính xác về mặt sự thật. Tính năng này hoạt động như sau:

• Nhà phát triển ứng dụng kích hoạt khả năng chỉnh sửa.
• Khi phát hiện dữ liệu vô căn cứ, một yêu cầu mới sẽ được gửi đến mô hình AI tạo ra để sửa lỗi.
• Thuật toán LLM sẽ đánh giá tổng thể dựa trên tài liệu có căn cứ.
• Những câu không có nội dung liên quan đến tài liệu cơ bản, đã xác thực có thể bị lọc bỏ hoàn toàn.
• Nếu nội dung có nguồn gốc từ tài liệu cơ sở, mô hình cơ sở sẽ viết lại câu không có căn cứ để phù hợp với tài liệu.

Bên cạnh tính năng chỉnh sửa, Microsoft cũng đã công bố bản preview công khai của Hybrid Azure AI Content Safety (AACS). Tính năng này cho phép các nhà phát triển triển khai cơ chế an toàn nội dung trên đám mây và trên thiết bị. SDK nhúng của AACS cho phép kiểm tra an toàn nội dung theo thời gian thực trực tiếp trên thiết bị, ngay cả khi không có kết nối internet.

Cuối cùng, Microsoft đã công bố bản preview của Protected Materials Detection for Code có thể được sử dụng với các ứng dụng AI tạo ra mã để phát hiện xem LLM có tạo ra bất kỳ mã được bảo vệ nào không. Tính năng này trước đây chỉ khả dụng thông qua Azure OpenAI Service. Microsoft hiện đang cung cấp Protected Materials Detection for Code cho khách hàng sử dụng kết hợp với các mô hình AI tạo ra mã khác.