NVIDIA công bố siêu máy tính AI DGX GH200 hứa hẹn mở ra kỷ nguyên mới cho ChatGPT

Nvidia mới đây đã giới thiệu nền tảng siêu máy tính DGX thế hệ tiếp theo có tên DGX GH200 tại sự kiện Computex 2023 đang diễn ra. Theo Nvidia, nền tảng siêu điện toán AI DGX GH200 sẽ giúp các khách hàng tạo ra nên câu chuyện thành công tương tự như ChatGPT.

Nhờ được tạo nên từ việc ghép nối 256 siêu chip Grace Hopper Superchips trên bộ nhớ dùng chung 144TB, DGX GH200 có thể xử lý được các tác vụ huấn luyện AI sản sinh tiêu tốn hiệu năng nhất hiện nay.

Sức mạnh của mỗi siêu chip Grace Hopper được tạo nên bởi một CPU ARM 72 nhân Grace, một GPU Hopper, bộ nhớ HBM3 96GB và bộ nhớ LPDDR5X 512GB trên cùng một chip với tổng cộng 200 tỷ bóng bán dẫn.

Hệ thống DGX A100, nền tảng điện toán AI đã giúp làm nên thành công cho ChatGPT của OpenAI, chỉ có thể kết nối 8 GPU A100 với nhau thành một bộ xử lý duy nhất có bộ nhớ dùng chung 320GB.

Để liên kết 256 chip Grace Hopper, DGX GH200 sử dụng hệ thống liên kết mới NVLink Switch System với 36 switch NVLink, cho phép chúng hoạt động như một GPU khổng lồ có khả năng xử lý vượt trội – với bộ nhớ dùng chung 144TB, nhiều hơn 500 lần so với hệ thống DGX A100.

Nvidia cho biết, toàn bộ hệ thống DGX GH200 sử dụng đến 240 km cáp quang tốc độ cao, nặng hơn 18 tấn nhưng vận hành như một GPU duy nhất.

Hệ thống siêu máy tính này mang lại "hiệu năng AI" đến 1 exaflop – gần bằng siêu máy tính Frontier tại Phòng Thí nghiệm Quốc gia Oak Ridge ở Tennessee có điểm số hiệu năng đạt tới gần 1,2 exaflop.