Microsoft lên kế hoạch đưa AI vào Raspberry Pi

Đó là lý do vì sao hệ thống AI lại dựa vào cảm biến local để thu thập dữ liệu đầu vào trong khi nhiều phần cứng mạnh mẽ hơn trên đám mây quản lý phần nặng nhọc của dữ liệu đầu ra. Đó là cách làm việc của Siri và Amazon Alexa, cách IBM Watson giải quyết hầu như bất kì công việc nào. Dù vậy, đó vẫn là cách tiếp cận hạn chế khi tạo IoT thông minh hơn và ứng dụng trí thông minh khi không có kết nối Internet.

“Mô hình chủ yếu đó là các thiết bị (cảm biến) này đúng là vô dụng”, nhà nghiên cứu cấp cao tại Microsoft Research India, Manil Varma cho hay.

Hiện tại, nhóm của Varma ở Ấn Độ và các nhà nghiên cứu Microsoft tại Redmond, Washington (toàn bộ dự án được dẫn dắt bởi nhà nghiên cứu Ofer Dekel) đã phát hiện ra cách nén mạng thần kinh, các khớp thần kinh của Machine Learning từ 32-bit xuống, đôi khi, chỉ còn một bit và chạy chúng trên Raspberry Pi trị giá $10, một chiếc máy tính nhỏ cỡ một chiếc thẻ, tốn ít năng lượng hơn với nhiều cổng và không có màn hình. Nó thực sự là một bo mạch chủ mã nguồn mở có thể khai thác ở bất kì đâu. Công ty tuyên bố nghiên cứu này trong một bài viết trên blog.

Nhà nghiên cứu Ofer Dekel với chiếc vi xử lý siêu nhỏ có thể chạy thuật toán Machine Learning một ngày nào đó

Công việc của Microsoft là một phần trong xu hướng lớn, đưa Machine Learning đến gần với các thiết bị và người dùng cuối hơn.

Đầu tháng này tại hội nghị WWDC, Apple đã tuyên bố API Machine Learning mới (Vision & Natural Language) cho phép nhà phát triển thêm trí thông minh dựa trên Machine Learning vào ứng dụng chỉ với vài dòng code. Họ cũng tiết lộ Core ML cho các nhà phát triển có kiến thức sâu hơn về AI tận dụng mọi lợi thế của khả năng can thiệp vào hardware. Mô hình của Apple giúp nhà phát triển dạy cho các thuật toán Machine Learning trên thư viện Apple cung cấp. Hệ thống này sau đó sẽ chuyển đoạn mã để chạy AI trên thiết bị.

Hiển nhiên là trong trường hợp của Apple, phần cứng nằm trong chiếc iPhone trị giá $700 và CPU thì mạnh hơn nhiều bất kì thứ gì có thể tìm thấy trên Raspberry Pi. Nhưng xu hướng này cũng rất rõ ràng. Những công ty này đang đưa AI đến gần hơn tới các thiết bị của người dùng, nơi nó có thể ít dựa dẫm vào việc truy cập dữ liệu khổng lồ trên đám mây.

“Nếu bạn đang lái xe trên đường và không thể kết nối mạng, bạn sẽ không muốn AI dừng hoạt động. Trên thực tế, đó là lúc bạn cần nó nhất”, Varma cho hay.

Với cách tiếp cận này, ta có thể hiểu được những nhiệm vụ dựa trên cảm biến và đơn giản hơn cũng có thể được học theo địa điểm, chủ ý, hành động gần đây hay dữ liệu của thiết bị. Trong thời gian gần, nó có thể là giải pháp cho một liệu pháp chữa trị ung thư chẳng hạn (một trong những lĩnh vực quan tâm của Watson Al tại IBM).

Với Microsoft, đột phá Raspberry Pi này đơn giản là giai đoạn một trong chuỗi công việc nén mạng thần kinh để chúng có thể chạy trên controller siêu nhỏ phân cấp. Để đạt được điều đó, theo Microsoft, mô hình Machine Learning cần phải nhỏ hơn 10.000 lần. Đó là vấn đề mà họ vẫn đang giải quyết.

Các nhà nghiên cứu Microsoft đang tính đưa AI lên Raspberry Pi

Cùng lúc đó, Microsoft cũng phát hành bản Preview của thuật toán Machine Learning với kích thước cho Raspberry Pi trên GitHub, nơi các nhà phát triển có thể dùng thử, khai thác trên Raspberry Pi 3 và Raspberry Pi Zero.

Sau cùng, đây là một phần chiến lược Intelligent Edge của Microsoft mà CEO Satya Nadella đã vạch ra từ đầu năm tại hội nghị Microsoft Build. Microsoft hy vọng sẽ thấy những chiếc vi xử lý siêu nhỏ có sử dụng AI được dùng trong các văn phòng cho tới trang phục chúng ta mặc.

Với Varma, người cũng bị giảm thị lực, nghiên cứu này có phần cá nhân hơn. Nhóm của ông đang phát triển một nguyên mẫu một chiếc gậy đi bộ thông minh để minh họa cho nghiên cứu của mình.