Skill caveman trong Claude có thực sự giúp tiết kiệm 70% output token?

Nhiều người rất thích sử dụng Claude, thậm chí đã chuyển sang mô hình AI của Anthropic từ ChatGPT cách đây một thời gian và chưa bao giờ hối hận. Phản hồi của Claude mang cảm giác tự nhiên và tốt hơn về mọi mặt, cho dù đó là viết code hay phân tích các chủ đề kỹ thuật. Quan trọng nhất, nó không ngại phản biện và giữ vững lập trường trong các phản hồi của mình, không giống như những mô hình khác được thiết kế để làm hài lòng người dùng.

Tuy nhiên, có một nhược điểm lớn khi chuyển sang Claude: Giới hạn sử dụng áp dụng cho mọi gói dịch vụ, và tùy thuộc vào mô hình bạn sử dụng, "token" mà mô hình dùng để tính toán mức sử dụng có thể bị tiêu hao khá nhanh. Có một số thói quen bạn có thể bỏ để kéo dài thời gian sử dụng Claude, nhưng việc dạy nó giao tiếp bằng những câu ngắn gọn, thô sơ đã mang lại hiệu quả lớn: Output token giảm 70%, với lợi ích bổ sung là nhận được các câu trả lời ngắn gọn, rõ ràng.

Các thủ tục đang ngốn hết ngân sách token của bạn

Mội người thường tránh các cuộc trò chuyện thông thường với Claude vì giới hạn sử dụng có thể bị tiêu hao quá nhanh. Token của Claude được tính thông qua xử lý văn bản, và quy tắc chung là mỗi token tương đương với 4 ký tự. Điều quan trọng cần lưu ý là token được tính theo cả hai hướng, bao gồm cả đầu vào của người dùng và phản hồi của Claude.

Claude có giới hạn 5 giờ luân chuyển cho tất cả người dùng, và giới hạn token là động — bạn chỉ được phép gửi 15-20 message cùng một lúc trên gói miễn phí. Dung lượng tăng lên với các cấp cao hơn. Đối với người dùng Pro, gấp 5 lần so với gói miễn phí; các gói Max (gấp 5 lần hoặc 20 lần) nhân thêm số lượng giới hạn của Pro.

Hãy tưởng tượng rằng tất cả các token tích lũy từ các từ đệm trong mỗi phiên giao tiếp — việc sử dụng ngôn ngữ của Claude có thể tăng lên đáng kể chỉ khi nó tránh các thủ tục như chào hỏi và gõ câu để cố gắng trò chuyện, điều mà chẳng ai quan tâm.

Skill caveman thực sự làm gì?

Skill caveman, đúng như tên gọi của nó, dạy Claude cách trò chuyện bằng những câu ngắn gọn, thô sơ. Để cài đặt plugin trong Claude Code, hãy truy cập kho lưu trữ trên GitHub hoặc nhập code này vào terminal:

Đối với Windows:

irm https://raw.githubusercontent.com/JuliusBrussee/caveman/main/install.ps1 | iex

Đối với macOS:

curl -fsSL https://raw.githubusercontent.com/JuliusBrussee/caveman/main/install.sh | bash

Để khởi chạy plugin, hãy gõ /caveman. Claude sẽ trò chuyện với bạn bằng ngôn ngữ đơn giản, đưa ra những câu trả lời ngắn gọn và súc tích hơn.

Việc sử dụng các plugin yêu cầu gói trả phí của Claude. Tuy nhiên, bạn có thể bắt chước hành vi tương tự bằng một prompt mà bạn có thể dán vào hướng dẫn cho gói miễn phí, và đây là prompt được sử dụng:

Respond in caveman speak only.

No pleasantries.

No filler.

Short sentences.

Subject-verb-object.

Give answer directly.

Explain only if asked.

Chỉ trả lời bằng ngôn ngữ đơn giản.

Không nói lời xã giao.

Không dùng từ ngữ thừa.

Câu ngắn gọn.

Cấu trúc chủ ngữ-động từ-tân ngữ.

Trả lời trực tiếp.

Chỉ giải thích khi được hỏi.

Kiểm tra tuyên bố tiết kiệm 65%

Output giảm nhưng input tăng

Ý tưởng về phản hồi trực tiếp nghe có vẻ tuyệt vời để mở rộng việc sử dụng và theo người tạo plugin, nó giảm mức tiêu thụ token xuống 65%, nhưng số liệu thực tế lại cho thấy điều khác. Nhiều loại prompt khác nhau đã được thử nghiệm, bao gồm prompt cơ bản, prompt ngắn gọn (yêu cầu Claude trả lời chính xác) và câu hỏi sử dụng skill caveman.

Đối với output token, Caveman đã giảm gần 70% so với phương pháp cơ bản và giảm 65% so với phương pháp prompt ngắn gọn.

Tuy nhiên, input token mới là nơi mọi thứ bắt đầu trở nên thú vị. Bất kể đầu vào dài hay ngắn, Claude sẽ phải xử lý nhiều dữ liệu hơn vì nó tính đến plugin hoặc hướng dẫn, do đó làm tăng input token. Cuối cùng, Caveman tốn nhiều hơn khoảng 233% so với phương pháp prompt thông thường và nhiều hơn tới 567% so với phương pháp prompt ngắn gọn.

Những gì Caveman tiết kiệm được ở output token phải đánh đổi lại bằng input token, và sự khác biệt trở nên không đáng kể so với phương pháp prompt ngắn gọn.

Tuy nhiên, kịch bản này chỉ hiệu quả với một prompt duy nhất — khi bạn tiếp tục với các câu hỏi bổ sung và mở rộng cuộc trò chuyện, chi phí đầu vào của Caveman sẽ giảm đi. Dưới đây là số lượng token trung bình trên 10 prompt.

Trong các cuộc hội thoại dài hơn, Caveman cho thấy khả năng tiết kiệm tốt hơn so với những phương pháp khác. Về số lượng output token, Caveman tiết kiệm trung bình 52%, và tổng số token giảm 38%.

Caveman có xứng đáng với sự kỳ vọng?

Ngoài việc giảm lượng token tiêu thụ, phản hồi cũng chính xác hơn

Thử nghiệm thực tế đã tiết kiệm được thêm 52% output token, nhưng vẫn ít hơn mức tiết kiệm 65% mà nhà phát triển quảng cáo. Tuy nhiên, các thử nghiệm thực tế phụ thuộc rất nhiều vào loại prompt bạn đang sử dụng. Đối với các cuộc trò chuyện và giải thích thông thường, sự khác biệt là rất lớn, nhưng đối với lập trình và những quy trình làm việc phức tạp, bạn sẽ nhận thấy sự khác biệt nhỏ hơn vì sẽ không có nhiều thứ để giảm thiểu đầu ra.

Mặc dù vậy, phương pháp prompt này vẫn là một lựa chọn hiển nhiên, đặc biệt nếu bạn tính đến thực tế là các LLM hoạt động chính xác hơn 26% với những phản hồi ngắn gọn (theo bài nghiên cứu của Brevity Constraints).

Chế độ Caveman cũng duy trì cấu trúc hợp lý trong các cuộc hội thoại dài, và bạn có thể làm cho nó thú vị hơn nữa bằng cách thêm những hướng dẫn như "hãy thẳng thắn" hoặc "tránh ảo giác", điều này giúp cải thiện hơn nữa các prompt và giảm thiểu sai sót.

Các mô hình cao cấp hơn như Fable 5 dễ dàng vượt qua giới hạn token, và việc áp dụng plugin Caveman trong trường hợp này có thể làm tăng gấp đôi mức sử dụng.

Khi nào nên sử dụng và khi nào nên tránh sử dụng plugin Caveman?

Plugin Caveman là một cách thú vị để giảm mức sử dụng token, nhưng nó không phải là cách sử dụng Claude tối ưu, vì nó đi kèm với một vài hạn chế. Việc chỉ đưa ra một prompt không mở khóa toàn bộ khả năng của Caveman, và nó khó có thể vượt trội hơn so với các prompt ngắn gọn, nhưng nó vẫn tốt hơn so với prompt thông thường.

Sau khi thử nghiệm, Caveman cũng được phát hiện ra đã hoạt động kém hiệu quả trong việc phân tích các chủ đề phức tạp và văn bản sáng tạo. Điều đó khá rõ ràng, vì bạn đang yêu cầu Claude hành động như một người nguyên thủy với chỉ số IQ thấp hơn. Tuy nhiên, khi được sử dụng cho đúng mục đích, nó hoạt động cực kỳ hiệu quả, ví dụ như viết code, trích xuất dữ liệu, động não và lập kế hoạch.