ChatGPT cần bao nhiêu tiền mỗi ngày để vận hành

ChatGPT với khả năng trả lời đa dạng câu hỏi trong nhiều lĩnh vực từ người dùng, đồng thời tiếp tục "học" từ chính quá trình tương tác với chính người dùng để trở nên thông minh hơn, đang “gây bão” trên khắp thế giới.

Tuy nhiên, để có thể trả lời câu hỏi một cách lưu loát "giống con người", ChatGPT cần tới số tiền khổng lồ để vận hành.

Theo OpenAI, ChatGPT hiện chạy trên nền tảng đám mây Azure của Microsoft. Theo tính toán của Tom Goldstein, phó giáo sư khoa học máy tính tại Đại học Maryland, để vận hành ChatGPT OpenAI có thể đã tiêu tốn khoảng 100.000 USD mỗi ngày.

Hiện ChatGPT sử dụng mô hình xử lý ngôn ngữ tự nhiên GPT-3 với 175 tỷ tham số làm nền tảng, đây được xem là mô hình xử lý ngôn ngữ đứng thứ hai thế giới sau Swift Transformer của Google.

GPU Nvidia A100 80GB được Microsoft sử dụng cho việc xử lý ngôn ngữ của GPT-3 trên máy chủ.

Theo Goldstein, một mô hình với ba tỷ tham số chạy trên GPU Nvidia A100 80GB có thể sản sinh ra một token trong khoảng 6 mili giây (ms). Như vậy, với 175 tỷ tham số, để tạo ra được một từ duy nhất GPU này mất khoảng 350 ms.

Tất nhiên, để xử lý ngôn ngữ hệ thống cần nhiều GPU hơn thế. Theo Goldstein, cần năm GPU tải mô hình và văn bản chỉ để tải và xử lý một đoạn văn bản trong GPT-3. Hiện mỗi giây ChatGPT có khả năng tạo khoảng 15-20 từ, nên cần một máy chủ với ít nhất tám GPU A100.

Trung bình, mỗi giờ sử dụng GPU A100 tốn khoảng 3 USD, đồng nghĩa với việc ChatGPT tốn khoảng 0,0003 USD cho mỗi từ được tạo. Trung bình, mỗi câu trả lời của ChatGPT có khoảng 30-40 từ, tốn khoảng 0,01 USD, một đoạn hội thoại ngắn 5-10 câu trả lời tốn khoảng 0,05-0,1 USD.

Mỗi ngày, ChatGPT thực hiện hàng triệu cuộc hội thoại mỗi ngày, mức phí là 50.000-100.000 USD. Chi phí này chưa tính các chi phí khác để phát triển và vận hành mô hình.

Con số thực tế có thể thấp hơn so với Goldstein đưa ra bởi lượng người dùng ChatGPT tăng vọt. Theo ước tính của ngân hàng đầu tư UBS, chỉ sau 3 tháng ra mắt, ChatGPT đã đạt 100 triệu người dùng.

Ngày 2/2, OpenAI tung ra phiên bản ChatGPT Plus với mức giá là 20 USD/tháng. Liệu mức phí này có đủ để OpenAI có lời?

Về thói quen sử dụng, nếu một người nói chuyện với ChatGPT hai câu mỗi giờ và tám giờ mỗi ngày với câu hỏi và câu trả lời đơn giản, mức phí có thể là 0,48 USD mỗi ngày, tức 14,5 USD mỗi tháng. Như vậy, mức phí 20 USD cho phiên bản ChatGPT Plus của OpenAI có thể giúp công ty sinh lời.

Nhưng nếu người dùng đặt câu hỏi nhiều hơn, mức phí ít nhất cũng phải lên tới 25 USD mỗi tháng cho gói cơ bản cung cấp tối đa 1.500 từ mỗi ngày.

Theo Fortune, OpenAI hiện lỗ nặng, công ty đạt doanh thu 30 triệu USD vào năm ngoái nhưng tiêu tốn đến 416,45 triệu USD chi phí máy chủ và xử lý dữ liệu, hơn 89 triệu USD lương nhân viên và 39 triệu USD cho các chi phí hoạt động khác.

Năm 2019, Microsoft đã đầu tư một tỷ USD cho OpenAI nên công ty vẫn có kinh phí hoạt động. Tháng trước, hãng phần mềm Mỹ tháng trước tuyên bố tiếp tục chi hàng tỷ USD, có thể lên tới 10 tỷ USD cho startup này.