DGX-1 trông giống một tủ đặt máy chủ (rack server) bình thường và tận dung công suất tính toán từ 8 chiếc GPU Tesla V100.
GPU, dựa trên kiến trúc Volta, được giới thiệu tại hội nghị công nghệ GPU tại San Jose hôm thứ Tư. “Bạn chỉ cần cắm vào và làm việc”, CEO Jen Hsun Huang của Nvidia nói. Nhưng DGX-1 với Tesla V100 rất đắt. Với mức giá 149.000 USD, nó có thể cứu nhiều mạng người. Dù vậy, Huang khuyến khích mọi người đặt mua và nói rằng hàng sẽ được giao vào quý 3.
Theo Nvidia, siêu máy tính mới sử dụng tổng cộng 40.960 lõi CUDA, tương đương với sức mạnh điện toán của 800 CPU. Nó thay thế DGX-1 trước đó, dựa trên kiến trúc Pascal với 250 máy chủ 2 socket. Hệ thống sẽ có khoảng 960 teraflop. Cùng với GPU là 20 lõi Intel Xeon E5-2698 v4S chạy với tốc độ 2.2Ghz. Hệ thống có bốn 1.92TB SSD và chạy trên Ubuntu Linux. Nó sẽ tốn 3.200 watt nên người dùng không nên để nó chạy cả ngày.
Game thủ cũng không cần quá phấn khích bởi DGX-1 Tesla V100 quá đắt với game thủ, nó được thiết kế cho machine learning nhiều hơn. GPU có thể giúp các nhiệm vụ machine learning ở trung tâm dữ liệu và siêu máy tính của Nvidia là ví dụ cho cách mà GPU làm các ứng dụng như nhận diện hình ảnh hay xử lý ngôn ngữ tự nhiên. Huang cho rằng CPU không đủ khả năng tính toán, đặc biệt là AI, nhưng GPU lại rất phù hợp.
Huang nói Tesla V100 trong DGX-1 nhanh hơn 5 lần so với kiến trúc Pascal. Nó sẽ có công nghệ mới như NVLink 2.0, một kết nối trong với băng thông lên tới 300Gbps. GPU có hơn 21 triệu transistor và 5120 lõi. Nó cũng có bộ nhớ băng thông 900Gbps của HBM2.
Nvidia sử dụng lõi giống hình lập phương của Tensor, làm việc với các lõi xử lý thông thường để cải thiện deep learning. Nvidia tập trung vào việc cấu trúc lõi để tăng tốc phép nhân ma trận theo chuỗi - trung tâm của hệ thống deep learning hiệu quả.
Buổi giới thiệu về siêu máy tính DGX-1
Huang cũng rất tự hào về GPU cung cấp 120 teraflop của deep learning dù rất khó xác minh điều này. Công cụ benchmark cho các ứng dụng machine hay deep learning vẫn chưa có, dù đã có công ty như Google đang phát triển chúng.
Siêu máy tính làm việc với nhiều framework điện toán và deep learning cao cấp như CUDA, Tensor và Caffe2. Đồ họa được giới thiệu là DGX Station, nhỏ hơn bản DGX-1 mới, giống một bản workstation với 4 GPU Tesla V100, bằng một nửa của DGX-1. Nó có giá $69.000. Nvidia chưa nói gì về việc sản phẩm có được bán trên toàn cầu hay không.