Raspberry Pi AI Kit: Mang AI đến Raspberry Pi

Raspberry Pi 5 là một máy tính đơn bo đa năng giúp cân bằng giữa giá cả, hiệu suất và hiệu quả sử dụng năng lượng. Tuy nhiên, nó thiếu một tính năng quan trọng mà hầu hết các máy tính hiện đại đang hướng tới: Neural Processing Unit, hay gọi tắt là NPU.

Raspberry Pi Foundation nhận thức được điều này và do đó đã ra mắt Raspberry Pi AI Kit.

Raspberry Pi AI Kit là gì?

Raspberry Pi AI Kit về cơ bản là bo mạch M.2 HAT+ mới của Raspberry Pi được tích hợp với mô-đun tăng tốc Hailo-8L.

Mô-đun Hailo-8L là mô-đun tăng tốc cấp đầu vào có khả năng đạt tới 13 tera hoạt động mỗi giây (TOPS) về hiệu suất suy luận theo thời gian thực, độ trễ thấp (để so sánh, chip máy tính xách tay Meteor Lake của Intel cung cấp khoảng 10 TOPS, trong khi chip Lunar Lake mới của hãng sẽ cung cấp tới 40 TOPS). M.2 HAT cho phép nó giao tiếp với Raspberry Pi 5, giúp máy tính dễ dàng xử lý khối lượng công việc AI như phát hiện đối tượng, phân đoạn hình ảnh và ước tính tư thế.

Ưu điểm chính của việc chạy khối lượng công việc AI trên NPU là nó giảm mức tiêu thụ điện năng và giải phóng bộ xử lý chính trên Raspberry Pi 5 cho các tác vụ điện toán khác. Raspberry Pi AI Kit tương thích với các mô-đun camera của bên thứ nhất và bên thứ ba, đồng thời hỗ trợ chia sẻ tải với nhiều camera.

Bộ kit này cũng bao gồm GPIO stacking header 16 mm, miếng đệm nhiệt giữa HAT+ và mô-đun, cũng như các miếng đệm và ốc vít để gắn AI Kit trên Raspberry Pi 5. Bộ sản phẩm này có sẵn khi đặt hàng trước với giá 70 USD từ CanaKit và các đại lý Raspberry Pi đã được phê duyệt.

Có thể sử dụng Raspberry Pi AI Kit để làm gì?

Ngoài Raspberry Pi 5, bạn sẽ cần một số phần cứng và phần mềm nhất định để sử dụng hết tiềm năng của AI Kit. Điều này bao gồm bản cài đặt cập nhật hệ điều hành Bookworm 64-bit và mô-đun camera Raspberry Pi.

Thiết bị Raspberry Pi 5 chạy hình ảnh Bookworm 64-bit cập nhật sẽ tự động phát hiện mô-đun Hailo và hỗ trợ trực tiếp các quy trình cho NPU. Tính năng này hoạt động thông qua thư viện phần mềm ứng dụng rpi-cam tích hợp trong hệ điều hành Raspberry Pi.

Vậy những công dụng tiềm năng của Raspberry Pi AI Kit là gì? Bộ công cụ này chủ yếu nhắm vào các dự án thị giác máy tính, tức là các ứng dụng cho phép máy tính hiểu và rút ra những thông tin sâu từ hình ảnh tĩnh hoặc chuyển động. Raspberry Pi AI Kit có thể được sử dụng để tăng tốc các tác vụ như:

• Phát hiện/nhận dạng đối tượng, hiển thị văn bản mô tả và các đối tượng được mạng nơ-ron nhân tạo phát hiện
• Phân đoạn hình ảnh, bao gồm mạng nơ-ron thực hiện phát hiện đối tượng và phân đoạn các đối tượng khác nhau bằng cách sử dụng mask màu
• Ước tính tư thế phát hiện tới 17 điểm chính liên quan đến vị trí và hướng của từng người và vật thể trong ảnh.

Những khả năng này có thể ứng dụng trong tự động hóa gia đình, bảo mật, robot dẫn đường bằng thị giác tiên tiến, điều khiển quy trình công nghiệp và thậm chí trong việc build máy tính AI 51 TOPS, như Jeff Geerling đã trình bày trong video của mình:

Kho lưu trữ ví dụ Raspberry Pi 5 của Hailo host một số bản demo hữu ích. Ngoài ra, Hailo model zoo còn chứa nhiều mạng nơ-ron được đào tạo trước, có thể đóng vai trò là bàn đạp cho các dự án nhúng của bạn.

Hãy nhớ tham khảo tài liệu chính thức của Raspberry Pi về AI Kit, bao gồm hướng dẫn cài đặt, hướng dẫn bắt đầu và các tài nguyên khác.

https://www.raspberrypi.com/documentation/accessories/ai-kit.html

Một số hạn chế của Raspberry Pi AI Kit

Công ty Raspberry Pi đã hợp tác với công ty statup AI Hailo để tạo ra một bộ công cụ giúp mở rộng tiềm năng của Raspberry Pi 5. Tuy nhiên, nó có những hạn chế.

Ví dụ, Raspberry Pi 5 là máy tính đơn bo giá rẻ, tiêu thụ một lượng điện năng nhỏ và chỉ có một làn PCI Express để giao tiếp với AI Kit. Do đó, AI Kit sẽ không thay thế ChatGPT hoặc DALL-E, nhưng nó sẽ cho phép một số tác vụ điện toán AI nhất định chạy nhanh chóng và hiệu quả trên Raspberry Pi 5.

Tuy nhiên, đây là một bản nâng cấp nhỏ tiện lợi cho Raspberry Pi và việc xử lý AI trên thiết bị sẽ mở ra nhiều cánh cửa hơn nữa cho cách sử dụng Raspberry Pi 5.