Facebook đang phát triển siêu máy tính AI mạnh nhất thế giới

Facebook (tên mới là Meta) vừa hoàn thành giai đoạn phát triển đầu tiên của siêu máy tính AI mới. Khi được hoàn thành vào giữa hoặc cuối năm nay, siêu máy tính AI Research SuperCluster (RSC) của Facebook sẽ trở thành siêu máy tính nhanh nhất thế giới, có khả năng thực hiện gần tỷ tỷ phép tính hỗn hợp trong một giây.

Meta cho biết RSC sẽ giúp các nhà nghiên cứu phát triển được những model AI tốt hơn, có khả năng học hỏi từ hàng ngàn tỷ ví dụ. Các mô hình AI có thể xây dựng những công cụ thực tế ảo tốt hơn và phân tích văn bản, hình ảnh và video cùng lúc một cách liền mạch bên cạnh nhiều khả năng khác nữa.

Thực tế thì phần lớn những khả năng của RSC đều phục vụ tầm nhìn của Meta với thế giới thực tại ảo metaverse. Trong thế giới đó, các ứng dụng và sản phẩm được vận hành bởi AI sẽ đóng một vai trò quan trọng.

"Chúng tôi hy vọng RSC sẽ giúp chúng tôi xây dựng các hệ thống AI hoàn toàn mới, chẳng hạn như có thể cung cấp khả năng dịch giọng nói theo thời gian thực cho nhiều nhóm người, mỗi người nói một ngôn ngữ khác nhau để họ có thể cộng tác liên mạch trong một dự án nghiên cứu hoặc chơi một trò chơi AR cùng với nhau", Giám đốc chương trình kỹ thuật Kevin Lee và kỹ sư phần mềm Shubho Sengupta chia sẻ.

RSC hiện được tạo thành từ 760 hệ thống NVIDIA DGX A100 với tổng số 6.080GPU. Meta tin rằng với cấu hình này RSC đã xếp vào top những siêu máy tính AI nhanh nhất thế giới. Dựa trên benchmark, Meta cho biết RSC so với siêu máy tính cũ của họ có khả năng chạy các workflows thị giác máy nhanh hơn 20 lần và NVIDIA Collective Communication Library nhanh hơn 9 lần.

Meta cho biết RSC cũng có thể đào tạo các mô hình xử lý ngôn ngữ tự nhiên quy mô lớn nhanh hơn ba lần. Do đó, việc đào tạo các mô hình AI với khả năng xác định hành động, âm thanh hoặc hình ảnh có hại hay lành tính sẽ được thực hiện nhanh hơn rất nhiều. Điều này sẽ giúp công ty tăng cường bảo vệ người dùng Facebook và Instagram cũng như trong metaverse.

Cùng với việc phát triển cơ sở hạ tầng vật lý và hệ thống để chạy RSC, Meta cho biết họ cần đảm bảo rằng có trong tay các biện pháp kiểm soát bảo mật và quyền riêng tư. Các bộ dữ liệu mà Meta sử dụng để đào tạo RSC được công ty tự tạo ra thay vì các bộ dữ liệu có sẵn nên hiệu quả đào tạo sẽ cao hơn.

Trong năm nay, Meta có kế hoạch tăng số lượng GPU trong RSC lên con số 16.000. Công ty cho biết rằng điều này sẽ giúp tăng hiệu suất đào tạo lên 2,5 lần.