Microsoft hiện cho phép các nhà phát triển tinh chỉnh hai mô hình Phi-3-mini và Phi-3-medium

Tháng 4 năm nay, Microsoft đã lần đầu tiên công bố họ SLM (Mô hình ngôn ngữ nhỏ - Small Language Model) Phi-3, cung cấp hiệu suất tuyệt vời với chi phí rẻ và độ trễ thấp. Phi-3-mini là mô hình ngôn ngữ 3,8B có sẵn trong hai biến thể context-length là 4K và 128K token. Phi-3-medium là mô hình ngôn ngữ 14B, cũng khả dụng với hai biến thể context-length tương tự.

Hôm nay, Microsoft đã chính thức công bố rằng cả Phi-3-mini và Phi-3-medium đều đã có thể tinh chỉnh được trên Azure. Điều này mở ra cơ hội cho phép các nhà phát triển cải thiện hiệu suất của mô hình cơ sở cho nhiều trường hợp sử dụng khác nhau. Ví dụ: Nhà phát triển có thể tinh chỉnh mô hình Phi-3-medium để hỗ trợ xây dựng ứng dụng trò chuyện dựa trên một phong cách phản hồi cụ thể. Một số tổ chức hiện cũng đã bắt đầu sử dụng mô hình Phi-3 trong các ứng dụng AI thực tế.

Microsoft cũng đã công bố tính khả dụng chung của dịch vụ Models-as-a-Service (điểm cuối không máy chủ). Như mong đợi, mô hình Phi-3-small hiện đã khả dụng dưới dạng điểm cuối không máy chủ, cho phép bất kỳ ai cũng có thể nhanh chóng phát triển các ứng dụng AI mà không cần lo lắng về cơ sở hạ tầng cơ bản. Phi-3-vision, mô hình đa phương thức có sẵn thông qua danh mục mô hình Azure AI, cũng sẽ sớm được triển khai qua điểm cuối không máy chủ.

Tháng trước, Microsoft đã cập nhật mẫu Phi-3-mini để cung cấp những cải tiến đáng kể. Theo tiêu chuẩn đánh giá benchmark trong ngành, Phi-3-mini-4k hiện đạt 35,8 điểm (trước đây là 21,7) với bản cập nhật tháng 6 năm 2024, và Phi-3-mini-128k đạt 37,6 (trước đây là 25,7).

Microsoft cũng nhấn mạnh các mô hình mới vừa được cung cấp trên Azure:

• OpenAI GPT-4o mini
• Mistral Large 2
• Meta Llama 3.1 family of models
• Cohere Rerank

Bộ tính năng Azure AI Content Safety mới được bổ sung bao gồm các lớp nhắc nhở và phát hiện được bật theo mặc định cho Azure OpenAI Service. Các nhà phát triển có thể sử dụng những tính năng này làm bộ lọc nội dung cho bất kỳ mô hình nền tảng nào, bao gồm Phi-3, Llama, Mistral và nhiều tùy chọn khác.

Với những bản cập nhật và mở rộng này, Microsoft đang chứng minh rõ ràng cam kết của mình trong việc thúc đẩy khả năng AI trên Azure. Bằng cách liên tục đầu tư vào tính khả dụng của các mô hình AI tiên tiến trên Azure và cung cấp các công cụ dễ tiếp cận để tinh chỉnh và triển khai, Microsoft đang cho phép các nhà phát triển dễ dàng tạo ra các giải pháp AI hiệu quả của riêng họ.