DirectML là một API cấp thấp cho phép các nhà phát triển chạy khối lượng công việc học máy trên bất kỳ GPU tương thích DirectX 12 nào từ AMD, Intel và NVIDIA. DirectML được giới thiệu lần đầu tiên trong Windows 10 phiên bản 1903, và có thể hiểu đơn giản là thư viện giúp tối ưu hóa tài nguyên GPU cho việc học máy
Gần đây, Microsoft đã bắt đầu hỗ trợ NPU tích hợp trên các SoC hiện đại trong DirectML. Hôm nay, công ty Redmond chính thức đưa ra thông báo cho biết DirectML hiện sẽ hỗ trợ các hệ thống được gắn nhãn PC Copilot+, sở hữu NPU NPU Qualcomm Hexagon thuộc nền tảng Snapdragon X Elite Compute Platform.
DirectML trên PC Copilot+ sẽ được hỗ trợ với các yêu cầu hệ thống sau:
- Phiên bản DirectML tối thiểu là 1.15.2 (ARM64)
- Phiên bản ONNX Runtime tối thiểu là 1.18 (ARM64)
- Windows 11 phiên bản 24H2 trở lên
- Driver Qualcomm Hexagon NPU phiên bản tối thiểu là 30.0.31.250 trở lên
Upendra Kulkarni, Phó chủ tịch Quản lý sản phẩm phần mềm điện toán tại Qualcomm, cho biết:
Với Snapdragon X Elite, chúng tôi đã giới thiệu một NPU hàng đầu trong ngành với hiệu suất AI 45 TOPS ở mức tiêu thụ năng lượng đáng kinh ngạc. DirectML là giao diện lập trình ML thân thiện với nhà phát triển sử dụng cấu trúc API DirectX quen thuộc. Bằng cách hỗ trợ DirectML trên NPU của Qualcomm, các nhà phát triển hiện có thể dễ dàng chuyển các mô hình của họ từ GPU sang NPU với nỗ lực tối thiểu. Chúng tôi đã hợp tác sâu rộng với Microsoft để tối ưu hóa DirectML cho NPU nhằm tối đa hóa hiệu suất phần cứng.
Cùng với hỗ trợ PC Copilot+, Microsoft cũng cho biết các nhà phát triển web hiện có thể tận dụng NPU với bản phát hành mới nhất của DirectML và WebNN Developer Preview.
WebNN là một tiêu chuẩn web mới cho phép nhà phát triển chạy các mô hình học máy trong trình duyệt cho các ứng dụng web dựa trên AI. Bản cập nhật DirectML mới này bổ sung hỗ trợ cho một bộ mô hình ban đầu trên bộ xử lý Intel Core Ultra với Intel AI Boost và PC Copilot+ được hỗ trợ bởi NPU Qualcomm Hexagon. Các nhà phát triển hiện có thể dùng thử ngay hôm nay trên trang web WebNN Developer Preview.
WebNN trên DirectML sẽ được hỗ trợ với các yêu cầu hệ thống sau:
- Windows 11 phiên bản 24H2 hoặc mới hơn
- Phiên bản Insider của Edge
- Driver mới nhất từ WebNN NPU Partners
- Driver Intel Core Ultra NPU cho Windows
- Gói Driver Qualcomm Hexagon NPU cho Windows
Trong tương lai, Microsoft có kế hoạch tung ra nhiều bản cập nhật thú vị hơn để hỗ trợ các khả năng AI tiên tiến trên PC chạy Windows.