NPU là gì?

An

NPU (Neural processing unit) là một bộ vi xử lý chuyên về tăng tốc các thuật toán học máy, thường bằng cách hoạt động trên các mô hình dự đoán như ANNs hoặc RF.

Điều quan trọng cần lưu ý là nó không thể được sử dụng cho mục đích tính toán chung như CPU. Chủ yếu là do phần mềm hỗ trợ cho bộ xử lý này không được phát triển để có thể được sử dụng cho bất kỳ mục đích tính toán nào. Trên thực tế, việc phát triển một phần mềm/trình biên dịch như vậy có thể là một thách thức và đồng thời, nó có thể mang lại hiệu suất thấp cho các tác vụ mà nó không được thiết kế để hoạt động.

Sự cần thiết của NPU

Trong vài năm gần đây, chúng ta đã đạt được những tiến bộ đáng kinh ngạc trong các ứng dụng Machine Learning. Chúng còn vượt trội hơn con người khi thực hiện một số nhiệm vụ như chơi trò chơi Go and Chess.

Đồng thời, các ứng dụng Machine Learning đã đưa cuộc sống con người lên một tầm cao mới. Một vài ứng dụng sẽ bao gồm:

Xe ô tô tự lái.
Giám sát hệ thống khu vực khỏi các mối đe dọa như hệ thống bảo mật liên quan đến nhận dạng khuôn mặt đồng thời.
Cải thiện chăm sóc sức khỏe bằng cách phân tích và điều trị chính xác.

Tất cả những điều này đã làm tăng số lượng tính toán liên quan theo cấp số nhân và các phương pháp sử dụng GPU trước đây không thể mở rộng quy mô tốt. Điều này đã mở đường để thiết kế một bộ xử lý hoạt động tốt hơn GPU và đáp ứng được những tiến bộ mà chúng ta đang đạt được trong lĩnh vực Machine Learning.

NPU được yêu cầu thực hiện những mục đích sau:

Tăng tốc tính toán các tác vụ Machine Learning lên nhiều lần (gần 10 nghìn lần) so với GPU.
Tiêu thụ năng lượng thấp và cải thiện việc sử dụng tài nguyên cho các tác vụ Machine Learning so với GPU và CPU.