Nvidia Corp. đã công bố kiến trúc chip mạnh nhất của mình tại Hội nghị Công nghệ GPU thường niên, được một số nhà phân tích đặt tên là Woodstock cho AI. Giám đốc điều hành Jensen Huang đã lên sân khấu để giới thiệu nền tảng điện toán Blackwell mới, nổi bật là chip B200, một cỗ máy có 208 tỷ bóng bán dẫn vượt xa hiệu suất của các AI accelerator vốn đã dẫn đầu của Nvidia.
Con chip này hứa hẹn sẽ mở rộng vị trí dẫn đầu của Nvidia so với các đối thủ vào thời điểm mà những doanh nghiệp lớn và thậm chí cả các quốc gia đang ưu tiên phát triển AI. Sau khi giúp phiên bản tiền nhiệm của Blackwell, Hopper, vượt qua mức định giá hơn 2 nghìn tỷ USD, Nvidia đang đặt nhiều kỳ vọng vào sản phẩm mới nhất của mình.
GPU Blackwell B200 mới của Nvidia là gì?
B200 là sản phẩm AI hàng đầu mới của Nvidia. Nó là trung tâm của một hệ sinh thái sản phẩm mở rộng, bao gồm công nghệ kết nối độc quyền cho phép Nvidia bán chip của mình theo cụm lớn hoạt động như một bộ xử lý hợp nhất. Công ty có trụ sở tại Santa Clara, California sẽ bán B200 với nhiều tùy chọn khác nhau, bao gồm cả một phần của siêu chip GB200, kết hợp hai GPU Blackwell hoặc bộ xử lý đồ họa với một CPU Grace hoặc bộ xử lý trung tâm đa năng. .
Chip Blackwell mới của Nvidia mạnh đến mức nào?
Theo Nvidia, Blackwell mang lại hiệu suất gấp 2,5 lần Hopper trong việc đào tạo AI. Đào tạo là quá trình tính toán chuyên sâu để đưa dữ liệu vào mô hình nhằm giúp mô hình học hỏi và xây dựng trí thông minh - chẳng hạn như phân biệt giữa mèo và chó - để phục vụ mục đích hữu ích. Đó là trọng tâm của các công ty đang tìm cách xây dựng những công cụ AI nội bộ của mình và nó đã chiếm phần lớn doanh số bán hàng bán dẫn AI của Nvidia cho đến nay.
Việc đi ra ngoài thế giới để xác định chó và mèo được gọi là suy luận, và Nvidia cho biết Blackwell làm việc đó nhanh gấp 5 lần so với kiến trúc trước đây. Nvidia cho biết, sau khi được tập hợp thành các mô-đun gồm hàng chục chip, dòng sản phẩm mới sẽ mang lại hiệu suất sử dụng năng lượng cao hơn 25 lần. Sự cải thiện đó có thể là lý do chính để khách hàng nâng cấp lên chip mới vì nó có khả năng cắt giảm đáng kể chi phí vận hành cho các trung tâm dữ liệu lớn.
Ai sẽ mua chip Blackwell?
Blackwell có một áp lực ngay từ khi ra mắt, vì kiến trúc Hopper hai năm tuổi đã thúc đẩy doanh số bán hàng bùng nổ tại Nvidia. Tuy nhiên, các chip mới sẽ được triển khai tại những trung tâm dữ liệu lớn nhất thế giới, bao gồm cả các trung tâm được điều hành bởi Amazon.com Inc., Microsoft Corp., Google của Alphabet Inc. Giám đốc điều hành Tesla Inc. của Oracle Corp., Elon Musk và Giám đốc điều hành OpenAI Sam Altman nằm trong số những người được Nvidia trích dẫn tán thành vai trò lãnh đạo của công ty trong việc thúc đẩy sự phát triển AI. Altman, công ty phụ thuộc vào cơ sở hạ tầng đám mây của Microsoft, cho biết Blackwell “sẽ đẩy nhanh khả năng cung cấp các mô hình tiên tiến nhất của chúng tôi”. Các sản phẩm sẽ có mặt vào cuối năm nay.
Dòng Hopper có giá ước tính từ 30.000 đến 40.000 USD cho mỗi chip. Các nhà đầu tư sẽ muốn biết thêm về suy nghĩ của Nvidia trong việc việc định giá Blackwell tại GTC trong tuần này.
Trong mọi trường hợp, các công ty công nghệ hàng đầu của Trung Quốc sẽ bị ngăn mua B200 vì hiệu suất của nó vượt quá ngưỡng kiểm soát xuất khẩu của Hoa Kỳ. Nvidia có thể vẫn cung cấp các thiết kế thu nhỏ phù hợp với thị trường Trung Quốc. Giống như ở Mỹ, lĩnh vực công nghệ và Internet của Trung Quốc đang đầu tư lớn để cạnh tranh trong cuộc đua AI.
Ai sản xuất chip Blackwell?
Thiết kế mới có rất nhiều bóng bán dẫn – những switch cực nhỏ giúp chất bán dẫn có khả năng xử lý thông tin – đến mức nó quá lớn đối với các kỹ thuật sản xuất thông thường. Công ty cho biết thực ra đó là hai con chip kết hợp với nhau thông qua một kết nối để đảm bảo chúng hoạt động liền mạch như một thực thể. Đối tác của Nvidia, Công ty Sản xuất Chất bán dẫn Đài Loan, sẽ sử dụng kỹ thuật 4NP của mình để sản xuất sản phẩm. Đó không phải là công nghệ sản xuất tiên tiến nhất của TSMC, hãng có quy trình 3 nanomet nhỏ hơn được sản xuất hàng loạt hiện nay. Nvidia đã giữ nguyên công nghệ sản xuất so với Hopper, thực hiện nâng cấp ở những nơi khác với GPU trung tâm dữ liệu mới nhất.
Các cụm bộ phận Blackwell đã được lắp ráp thường sẽ có trong những giá đỡ máy chủ làm mát bằng chất lỏng do các đối tác phần cứng của Nvidia lắp ráp. Tại GTC, Pegatron Corp. và một công ty con của Foxconn thông báo họ sẽ bán các đơn vị có siêu chip 36 và 72 GB200 bên trong tương ứng.
Blackwell có ý nghĩa gì đối với AI?
Ông Huang cho rằng vấn đề là do các model lớn hơn cần GPU lớn hơn, do đó việc kết hợp những chip Blackwell lại với nhau thành các sản phẩm như Nvidia GB200 NVL72. Các model nâng cao hơn được phát triển với việc bao gồm một tập hợp dữ liệu rộng hơn, bao gồm hình ảnh, biểu đồ, video và những nội dung media khác, không chỉ văn bản. Các mô hình nền tảng đa phương thức này cũng sử dụng nhiều tham số hơn trong tính toán của họ và Giám đốc điều hành Nvidia cho biết những giá đỡ máy chủ như GB200 sẽ kích hoạt “các mô hình nghìn tỷ tham số”. Cho đến nay, hầu hết các công ty đều đã mạo hiểm xem xét hàng tỷ thông số khi thiết lập mô hình của họ, mặc dù con số chính xác thường không được tiết lộ, như trường hợp của model GPT-4 mới nhất của OpenAI.
Blackwell so với các đối thủ cạnh tranh như thế nào?
Advanced Micro Devices Inc. đã ra mắt chip MI300 tiên tiến nhất của mình vào cuối năm ngoái và được nhiều người coi là đối thủ gần nhất của Nvidia. Intel Corp., công ty dẫn đầu lâu năm về CPU, đã tụt lại phía sau trong cuộc đua tăng tốc AI và thiếu công nghệ có thể so sánh với các sản phẩm chủ lực hiện tại của Nvidia, chưa nói đến những bản nâng cấp Blackwell. Theo thời gian, khách hàng của Nvidia có thể là mối đe dọa lớn nhất đối với lợi thế cạnh tranh của hãng.
Google, Amazon và Microsoft đều có thiết kế bộ xử lý máy chủ riêng đang được sử dụng hoặc phát triển. Cuối cùng, mỗi công ty điện toán đám mây lớn đó sẽ ưu tiên xây dựng giải pháp bán dẫn của riêng mình thay vì dựa vào nhà cung cấp bên ngoài như Nvidia.
Blackwell là ai? Tại sao Nvidia lại đặt tên cho chip mới của mình theo tên này?
Dòng sản phẩm mới được đặt theo tên của David Harold Blackwell, một nhà toán học và là học giả da đen đầu tiên được giới thiệu vào Viện Hàn lâm Khoa học Quốc gia. Dòng chip trước đó, Hopper, được đặt theo tên của nhà tiên phong khoa học máy tính Grace Hopper.