ChatGPT có thể “ngốn” tới 700.000 USD chi phí vận hành mỗi ngày

ChatGPT là một chatbot thông minh, có thể hỗ trợ con người ở nhiều khía cạnh khác nhau từ trong công việc, học tập cũng như giải trí. Đó là thực tế không cần bàn cãi. Nhưng bạn đã bao giờ tự hỏi sẽ cần bao nhiêu tiền để duy trì hoạt động của một chatbot tiên tiến được hỗ trợ bởi AI ở quy mô cỡ này chưa? Công ty nghiên cứu thị trường SemiAnalysis dường như đã có câu trả lời.

Tạp đặt sang một bên những yếu tố đúng sai, SemiAnalysis ước tính rằng việc chạy ChatGPT cần khoảng 700.000 đô la mỗi ngày, thu hẹp xuống còn khoảng 36 xu cho mỗi truy vấn. Và phần lớn chi phí này là dành cho cơ sở hạ tầng phần cứng cần thiết để chạy các hệ thống AI.

Ước tính chi phí vận hành ChatGPT là một quy trình phức tạp do có một vài biến số chưa thể xác định. Chúng tôi đã xây dựng một mô hình tính toán chi phí chuyên sâu, và nó chỉ ra rằng ChatGPT tiêu tốn 694.444 đô la mỗi ngày để vận hành hệ thống phần cứng. OpenAI yêu cầu ~3.617 máy chủ HGX A100 (28.936 GPU) để phục vụ Chat GPT.

Cũng theo SemiAnalysis, các nền tảng GPT bàng hiện đại (chẳng hạn như GPT-4, thì càng tốn nhiều chi phí vận hành hơn). Tuy nhiên, mức chênh lệch cụ thể ra sao vẫn chưa được tiết lộ.

Báo cáo mới đây từ The Information chi biết OpenAi và công ty mẹ Microsoft đang làm việc trên một nền tảng chip AI chuyên dụng, được cho là có thể giúp giảm đáng kể chi phí hoạt động của mô hình. OpenAI cũng đã ra mắt gói thuê bao đăng ký ChatGPT Plus giá 20 USD vào đầu năm nay để kiếm thêm doanh thu bù đắp cho chi phí vận hành hệ thống.

SemiAnalysis ước tính rằng nếu mô hình ChatGPT được sử dụng để cung cấp năng lượng cho các doanh nghiệp tìm kiếm hiện tại của Google, thì nó sẽ ngốn 36 tỷ USD từ lợi nhuận của công ty, chỉ tính riêng "chi phí suy luận LLM".

ChatGPT là một trong những công nghệ phát triển nhanh nhất thế giới vài năm trở lại đây, với kỷ lục thu hút hơn 100 triệu người dùng tích cực chỉ hai tháng sau thời điểm ra mắt chính thức. Thử làm một so sánh đơn giản, phải mất 9 tháng để TikTok và 2,5 năm để Instagram đạt được cột mốc tương tự.