Mẫu chip 40.000 USD được giới công nghệ săn lùng, có tiền chưa chắc mua được

Nvidia H100 là chip đồ họa GPU mạnh nhất hiện có trên thị trường luôn trong tình trạng cháy hàng dù với mức giá bán đắt đỏ lên tới 40.000 USD (gần một tỷ đồng).

CEO Nvidia Jensen Huang mô tả đây là "hệ thống đầu tiên trên thế giới được thiết kế cho siêu AI", mạnh gấp ba lần bản tiền nhiệm A100 nhưng chi phí vận hành chỉ bằng 1,5-2 lần.

Trong việc huấn luyện AI, GPU với khả năng tiến hành song song hàng loạt tính toán chiếm ưu thế so với CPU. Và GPU hiệu năng cao như H100 trở thành công cụ để xây dựng mô hình LLM (Large language models), cốt lõi của ứng dụng chatbot AI.

Sự bùng nổ bất ngờ của AI đã khiến mẫu chip đồ họa hiệu suất cao trở nên khan hiếm. Hiện chỉ có Nvidia có thể sản xuất GPU mạnh như H100.

Các đơn vị chuyên về AI đang có nhu cầu lớn về GPU, đứng đầu là OpenAI, nhà phát triển ChatGPT. Tỷ phú Elon Musk dự đoán OpenAI cần khoảng 30.000-50.000 chip để vận hành GPT-5. Inflection AI, dự án khởi nghiệp được rót vốn bởi Microsoft và Nvidia tiết lộ, họ đã mua 22.000 GPU H100 để xây dựng trung tâm AI của riêng mình. Còn Meta cho biết, họ muốn hơn 100.000 GPU H100 trong tương lai.

Nhóm công ty điện toán đám mây cũng muốn sở hữu nhiều GPU của Nvidia. CoreWeave muốn có 35.000-40.000 chiếc H100, Google Cloud Platform mua 26.000 chiếc, Amazon Web Service đặt hàng 20.000 chiếc và Microsoft Azure mua 10.000-40.000.

Các doanh nghiệp công nghệ hoặc tổ chức nhỏ cũng đã đặt hàng GPU của Nvidia. Chẳng hạn, Đại học Kaust tại Arab Saudi đã đặt mua 3.000 H100 với tổng giá trị là 120 triệu USD, hạn giao hàng cuối 2023.

Theo ước tính của một số chuyên gia, trong năm nay doanh số H100 trên toàn cầu đạt hơn 430.000 chiếc với tổng giá trị khoảng 15 tỷ USD. Trong khi đó, Financial Times cho rằng Nvidia có thể sản xuất 550.000 chiếc H100 trong năm nay và đã được đặt mua hết.

Elon Musk nói trong một buổi phỏng vấn, việc tìm mua GPU thậm chí "khó hơn so với chất gây nghiện".

Thông số kỹ thuật ấn tượng của Hopper GH100