NVIDIA trình làng chip AI GH200 Grace Hopper thế hệ tiếp theo: Cực kỳ mạnh mẽ

NVIDIA hiện là công ty hàng đầu trong thị trường cung ứng CPU sử dụng trong các máy chủ AI tổng hợp quy mô cực lớn, đang được khai thác bởi Microsoft, Google và nhiều gã khổng lồ công nghệ khác trên toàn cầu. Ngôi vị này vừa tiếp tục được củng cố với màn ra mắt của nền tảng xử lý AI tổng hợp hiệu suất cao NVIDIA GH200 Grace Hopper, được mệnh danh là GPU xử lý AI mạnh mẽ nhất từng được tạo ra.

Thông tin về chip AI GH200 Grace Hopper thế hệ mới được NVIDIA đưa ra trên sân khấu hội nghị các nhà phát triển đồ họa SIGGRAPH diễn ra từ ngày 6/8 tại Los Angeles Convention Center. Công ty cho biết sự kết hợp giữa chip Grace Hopper mới với bộ xử lý HBM3e sẽ có dung lượng bộ nhớ gấp ba lần và băng thông gấp ba lần so với nền tảng Grace Hopper thế hệ hiện tại. Do đó, sự cải thiện rõ rệt về hiệu năng mà yếu tố quan trọng mà thị trường có thể kỳ vọng:

Nền tảng mới sử dụng Grace Hopper Superchip, có thể được kết nối với các Superchip bổ sung bằng NVIDIA NVLink, cho phép chúng hoạt động cùng nhau để triển khai các mô hình đòi hỏi quy mô khổng lồ thường thấy trong các hoạt động AI tổng hợp. Công nghệ kết hợp, tốc độ cao này cho phép GPU truy cập đầy đủ vào bộ nhớ CPU, cung cấp tổng dung lượng bộ nhớ nhanh 1,2TB khi ở cấu hình kép.

Hiểu đơn giản, đây là hệ thống đầu tiên được trang bị bộ nhớ HBM3e công nghệ mới nhất, vừa tăng dung lượng vừa tăng cả băng thông bộ nhớ. Các hệ thống trang bị GPU GH200 giờ đây sẽ có tối đa 282GB bộ nhớ để vận hành xử lý và huấn luyện AI (machine learning).

Bộ nhớ HBM3e mới được cho là nhanh hơn 50% so với chuẩn HBM3 hiện tại. NVIDIA cho biết mỗi hệ thống siêu máy tính sử dụng GPU mới có thể đạt ngưỡng băng thông bộ nhớ kết hợp là 10TB/s (5 GB/s riêng lẻ).

NVIDIA cho biết chip GH200 Grace Hopper thế hệ hiện tại sẽ được đưa vào sản xuất đầy đủ vào cuối năm 2023. Trong khi nền tảng Grace Hopper thế hệ mới được công bố vẫn còn một chặng đường dài phía trước cần vượt qua. Những hệ thống siêu máy tính và data center đầu tiên trang bị GPU GH200 sẽ được đưa vào vận hành kể từ quý II năm 2024, chậm hơn so với AMD Instinct MI300X 192GB RAM HBM3.