Microsoft tích hợp DeepSeek lên nền tảng PC Copilot+

Vào tháng 1, Microsoft đã công bố kế hoạch đưa các phiên bản tối ưu hóa NPU của mô hình DeepSeek-R1 trực tiếp đến các máy tính Copilot+ chạy trên bộ xử lý Qualcomm Snapdragon X. Đến tháng 2, DeepSeek-R1-Distill-Qwen-1.5B đã được ra mắt đầu tiên trong AIToolkit cho VSCode.

Hôm nay, công ty Redmond chính thức đưa ra thông báo về việc cung cấp các mô hình DeepSeek R1 7B và 14B đã được tinh chỉnh cho nền tảng máy tính Copilot+ thông qua Azure AI Foundry. Khả năng chạy các mô hình 7B và 14B ngay trên thiết bị Copilot+ sẽ cho phép các nhà phát triển xây dựng các ứng dụng AI mạnh mẽ hơn, điều mà trước đây chưa thể thực hiện được.

Vì các mô hình này chạy trên NPU, người dùng có thể mong đợi hiệu suất AI ổn định với ít ảnh hưởng đến tuổi thọ pin và hiệu năng nhiệt của máy tính. Ngoài ra, CPU và GPU sẽ được giải phóng để thực hiện các tác vụ khác quan trọng hơn trên hệ thống.

Microsoft nhấn mạnh rằng họ đã sử dụng Aqua, một công cụ lượng tử hóa tự động nội bộ, để lượng tử hóa tất cả các biến thể của mô hình DeepSeek xuống int4. Tuy nhiên, tốc độ xử lý token của mô hình khá thấp. Microsoft báo cáo chỉ 8 token/giây với mô hình 14B và gần 40 token/giây với mô hình 1.5B. Microsoft cho biết họ đang tiếp tục tối ưu hóa để cải thiện tốc độ. Khi Microsoft tiếp tục cải thiện hiệu suất, tác động của các mô hình này lên máy tính Copilot+ dự kiến sẽ tăng lên đáng kể.

Các nhà phát triển quan tâm có thể tải xuống và chạy các biến thể 1.5B, 7B và 14B của mô hình DeepSeek trên máy tính Copilot+ thông qua tiện ích mở rộng AI Toolkit cho VS Code. Mô hình DeepSeek được tối ưu hóa ở định dạng ONNX QDQ và được tải xuống trực tiếp từ Azure AI Foundry. Những mô hình này cũng sẽ sớm xuất hiện trên các máy tính Copilot+ chạy bộ xử lý Intel Core Ultra 200V và AMD Ryzen trong tương lai.

Nhiều ý kiến cho rằng Microsoft đang mạo hiểm khi hợp tác với DeepSeek. Việc tích hợp DeepSeek vào hệ sinh thái Windows có thể khiến Microsoft gặp rắc rối nếu các cáo buộc về hành vi đánh cắp công nghệ được chứng minh là có cơ sở. Tuy nhiên, không thể phủ nhận rằng DeepSeek đang tạo ra một bước tiến lớn trên thị trường AI. Động thái này của Microsoft cho thấy sự thúc đẩy hướng tới khả năng AI trên thiết bị mạnh mẽ hơn, mở ra triển vọng mới cho các ứng dụng được hỗ trợ bởi trí tuệ nhân tạo.