Microsoft vừa công bố phát hành rộng rãi Windows ML – nền tảng runtime được tối ưu cho việc suy luận mô hình AI trực tiếp trên thiết bị (on-device inference). Đây là công cụ giúp các nhà phát triển xây dựng ứng dụng AI cho PC chạy Windows 11 mà không còn phải lo lắng về sự khác biệt phần cứng.
Trước đây, để phát triển ứng dụng AI trên Windows, lập trình viên buộc phải tự xây dựng các lớp hỗ trợ tùy chỉnh để đảm bảo phần mềm tương thích với nhiều dòng chip khác nhau, từ Qualcomm, Intel, AMD cho đến NVIDIA. Windows ML ra đời nhằm giải quyết triệt để vấn đề này bằng cách cung cấp một khung thống nhất, cho phép ứng dụng chạy mượt mà trên hàng triệu PC Windows 11 mà không cần tối ưu riêng cho từng loại phần cứng.
Theo Microsoft, Windows ML mang đến một số lợi ích nổi bật:
- Hỗ trợ đa dạng kiến trúc phần cứng thông qua API hạ tầng và các execution provider (EP) sẵn có hoặc có thể tải về tự động.
- Cho phép tiền biên dịch mô hình (AOT) để mang đến trải nghiệm liền mạch hơn cho người dùng cuối.
- Runtime và EP không cần đóng gói trực tiếp trong ứng dụng, nhờ Windows ML tự động tải về tùy theo phần cứng máy.
- Luôn duy trì khả năng tương thích trong dài hạn, giúp ứng dụng hoạt động ổn định ngay cả khi phần cứng liên tục phát triển.
- Cho phép lập trình viên gán chính sách thiết bị, tối ưu hiệu năng theo nhu cầu: tiết kiệm pin (NPU), hiệu suất cao (GPU) hoặc lựa chọn loại silicon cụ thể.
Microsoft cho biết nhiều hãng phần mềm lớn đã sớm áp dụng Windows ML cho ứng dụng AI của họ, bao gồm Adobe, BUFFERZONE, Dot Inc., McAfee, Reincubate, Topaz Labs và Wondershare.
Windows ML hiện đã tích hợp trong bộ Windows App SDK, hỗ trợ tất cả PC chạy Windows 11 24H2 trở lên. Các nhà phát triển có thể bắt đầu ngay việc xây dựng ứng dụng AI sẵn sàng cho triển khai thực tế.