GPT-4 Turbo: bộ nhớ lớn hơn, chi phí thấp hơn, kiến thức tới 4/2023

OpenAI đã công bố một bản cập nhật lớn cho mô hình ngôn ngữ GPT-4 có tên là GPT-4 Turbo tại sự kiện OpenAI DevDay vừa diễn ra. GPT-4 Turbo có thể xử lý lượng văn bản lớn hơn nhiều so với GPT-4 và có tính năng giới hạn kiến thức vào tháng 4 năm 2023.

GPT-4 Turbo có độ dài ngữ cảnh 128K, có thể xem xét khoảng 96.000 từ trong một lần đọc, dài hơn nhiều cuốn tiểu thuyết. Độ dài ngữ cảnh thường được đo bằng token, là các khối từ (một token tương ứng với khoảng bốn ký tự của văn bản tiếng Anh hoặc khoảng 3/4 từ). Điều này cho phép GPT-4 Turbo có thể trò chuyện dài hơn nhiều mà không bị mất trí nhớ ngắn hạn về chủ đề hiện tại. Trong khi đó, GPT-4 có độ dài ngữ cảnh 8.000 token, với mô hình 32K.

GPT-4 Turbo có kiến thức về các sự kiện tính đến tháng 4/2023, còn ChatGPT và GPT-4 chỉ chính thức kết hợp kiến thức về các sự kiện cho đến tháng 9/2021. Điều này khiến GPT-4 Turbo trở thành mô hình ngôn ngữ cập nhật nhất của OpenAI.

GPT-4 Turbo chạy dưới dạng API có chi phí ở mức 0,01 USD trên 1.000 token, thấp hơn một phần ba so với GPT-4 cho các token đầu vào và ở mức 0,03 USD trên 1.000 token, thấp hơn một nửa so với GPT-4 cho các token đầu ra.

Ngoài ra, tại sự kiện lần này OpenAI cũng đưa ra thông báo về việc giảm giá cho các mô hình API GPT-3.5, tăng gấp đôi giới hạn số token mỗi phút cho tất cả khách hàng GPT-4 trả phí, và cũng cho phép yêu cầu tăng giới hạn tốc độ.

OpenAI cung cấp quyền truy cập vào API cho GPT-4 Turbo từ ngày 7/11/2023, có thể phân tích hình ảnh và sử dụng chúng trong các cuộc trò chuyện.