TOPS: Chỉ số 'khó hiểu' nhất trên máy tính hiện nay

TOPS, Trillion Operations Per Second hay nghìn tỷ phép tính toán mỗi giây, là con số được các hãng sản xuất dùng để chỉ hiệu năng tính toán AI khi đưa ra những nền tảng mới để phục vụ nhu cầu sử dụng và đào tạo AI.

Các hãng thường công bố vi xử lý mới của mình cùng với TOPS để chỉ năng lực tính toán của các bộ xử lý neural (NPU). Ví dụ vi xử lý Lunar Lake mà Intel vừa ra mắt ở Computex có NPU đạt 48 TOPS.

Đa số người dùng hiểu rằng vi xử lý có số TOPS cao hơn thì sẽ có khả năng xử lý AI mạnh hơn. Tuy nhiên, thực tế con số này không đơn giản như vậy bởi có nhiều yếu tố có thể ảnh hưởng tới con số TOPS mà hãng công bố. Ngoài ra, chỉ số này cũng chỉ xét tới trường hợp tối ưu, còn thực tế ứng dụng AI có rất nhiều loại khác nhau.

Trong một buổi trò chuyện bên lề sự kiện Computex 2024, Robert Hallock, Phó chủ tịch, Giám đốc marketing mảng khách hàng AI và kỹ thuật tại Intel cho biết, những người chuyên nghiệp cũng không thích đo bằng TOPS, vì nó không thể hiện toàn bộ trải nghiệm. Một NPU chỉ 30 TOPS cũng có thể đạt được hiệu năng cao hơn ở so với NPU có 50 TOPS, vì sự khác biệt nằm ở phần mềm và tác vụ AI

Đại diện Intel cho rằng, TOPS sẽ trở thành thông số phổ biến nhất cho NPU. Ông cũng nhận định rằng, các mô hình AI sẽ được tối ưu tốt hơn, giúp giảm dung lượng, nhờ đó hiệu năng AI sẽ tiếp tục tăng trong nhiều năm tới.