Wafer Scale Engine 3: Chip máy tính lớn nhất thế giới chứa 4 nghìn tỷ transistor

Công ty siêu máy tính Cerebras đã thiết kế chế tạo chip máy tính lớn nhất thế giới chứa 4 nghìn tỷ transistor (linh kiện bán dẫn chủ động, thường được sử dụng như một phần tử khuếch đại hoặc một khóa điện tử) để chạy siêu máy tính Condor Galaxy 3 công suất 8 exaFLOP trong tương lai.

Wafer Scale Engine 3 (WSE-3) là nền tảng thế hệ thứ ba của Cerebras, được thiết kế để vận hành siêu máy tính trí tuệ nhân tạo (AI) cực mạnh như GPT-4 của OpenAI và Claude 3 Opus của Anthropic.

Tương tự phiên bản tiền nhiệm năm 2021 là WSE-2, con chip bao gồm 900.000 lõi AI, cấu tạo từ tấm bán dẫn silicon kích thước 21,5 x 21,5 cm. WSE-3 sử dụng cùng lượng điện như WSE-2 nhưng mạnh hơn gấp đôi.

Wafer Scale Engine 3 chứa 4 nghìn tỷ transistor, gấp hơn 57 lần so với một trong những con chip mạnh nhất hiện nay dùng để huấn luyện mô hình AI là bộ xử lý đồ họa (GPU) Nvidia H200 chỉ có 80 tỷ transistor.

Trong tương lai, WSE-3 sẽ được sử dụng cho siêu máy tính Condor Galaxy 3 nằm ở Dallas, Texas, đang được xây dựng. Condor Galaxy 3 bao gồm 64 khối cơ sở là hệ thống AI Cerebras CS-3 hoạt động nhờ chip WSE-3. Khi hoạt động, toàn bộ hệ thống có công suất tính toán lên tới 8 exaFLOP. Sau đó, hệ thống Condor Galaxy 1, 2, 3 sẽ kết hợp với nhau, toàn bộ mạng lưới sẽ đạt tổng công suất 16 exaFLOP, (một exaFLOP sẽ bằng 1.000 petaflop, tương đương 1 tỷ tỷ phép tính một giây). Mạnh hơn rất nhiều so với siêu máy tính mạnh nhất thế giới hiện nay là Frontier của Phòng thí nghiệm quốc gia Oak Ridge với công suất 1 exaFLOP.

Siêu máy tính Condor Galaxy 3 sẽ được dùng để huấn luyện các hệ thống AI tương lai.