PocketPal, giải pháp thay thế Gemini trên Android không cần Internet, có đáng sử dụng?

Ứng dụng Gemini trên Android hoạt động rất tốt. Nó có thể trả lời câu hỏi, đọc màn hình của bạn và thậm chí giúp bạn tận dụng tối đa các tính năng mà bạn chưa từng biết đến. Nhưng nó cần Internet để làm được tất cả những điều đó. Điều gì sẽ xảy ra nếu bạn đang trên máy bay, ở một khu vực hẻo lánh, hoặc chỉ muốn giữ các cuộc trò chuyện của mình riêng tư và không bị lưu trữ trên máy chủ của người khác? Một mô hình ngôn ngữ nhỏ cục bộ có thể xử lý điều đó.

Một số người đã tải xuống PocketPal, load một mô hình ngôn ngữ nhỏ ngoại tuyến và thử nghiệm nó với Gemini để xem nó có thể hoạt động đến đâu. Nhìn chung, nó hoạt động tốt trong việc tra cứu nhanh và các tác vụ cơ bản không cần Internet, mặc dù tốc độ chậm hơn đáng kể.

PocketPal mang các mô hình AI cục bộ đến điện thoại của bạn

Một ứng dụng mã nguồn mở chạy các mô hình ngôn ngữ mà không cần đám mây

Android có nhiều cách để chạy các mô hình AI cục bộ. MLC Chat và Google AI Edge Gallery là hai lựa chọn phổ biến, nhưng PocketPal giúp bạn dễ dàng bắt đầu sử dụng AI cục bộ trên điện thoại của mình. Đây là một ứng dụng mã nguồn mở dành cho Android và iOS, và nó không cần Internet ngoại trừ việc tải xuống các mô hình ban đầu.

Sau khi một mô hình được cài đặt trên điện thoại của bạn, mọi thứ sẽ chạy cục bộ. Các cuộc trò chuyện vẫn được lưu trên thiết bị của bạn cùng với toàn bộ lịch sử trò chuyện, và bạn có thể chỉnh sửa tin nhắn và thử lại phản hồi nếu kết quả không như ý muốn. Cũng có tùy chọn trợ lý giọng nói, nhưng đó là tính năng trả phí.

PocketPal cũng có một tính năng gọi là Pals. Hãy coi chúng như những câu lệnh hệ thống được tích hợp sẵn với một mô hình cụ thể và các cài đặt bổ sung, để bạn không phải nhập lại hướng dẫn mỗi khi bắt đầu một cuộc trò chuyện mới.

Sử dụng PocketPal trên Android

Cách cài đặt, tải xuống các mô hình và bắt đầu trò chuyện

Bạn có thể bắt đầu bằng cách tải ứng dụng từ Google Play Store. Sau một vài bước hướng dẫn ngắn, hãy nhấn vào Download Model. Theo mặc định, ứng dụng sẽ hiển thị ba mô hình và đề xuất Balanced, đó là Gemma 3 1B với dung lượng khoảng 1.020MB. Bạn cũng có thể chọn mô hình nhỏ hơn như LFM2.3.1 2B với dung lượng 700MB hoặc chọn tùy chọn tốt nhất, Qwen3.5 3B, với dung lượng 2,5GB.

Hãy bắt đầu với mô hình Gemma 3 1B được đề xuất, vì nó có vẻ hoạt động tốt trên hầu hết các điện thoại thông minh. Để tham khảo, ví dụ đã thử nghiệm các mô hình này trên Galaxy Z Flip 6 của mình với 12GB RAM và Note 20 Ultra với bộ nhớ tương tự nhưng bộ xử lý cũ hơn. Nếu điện thoại của bạn có nhiều RAM hơn, hãy thoải mái chọn các mô hình lớn hơn.

Sau khi quá trình tải xuống hoàn tất, bạn cần tải mô hình từ menu trò chuyện. Nhấn vào biểu tượng mũi tên lên, mở tab Model và chọn mô hình của bạn. Bạn cũng có thể thực hiện việc này từ menu ba chấm > Models hoặc tab Models trong menu 3 gạch ngang.

Trò chuyện với PocketPal

Cách các mô hình cục bộ xử lý 8 prompt cơ bản

Trò chuyện với PocketPal mang lại cảm giác tương tự như bất kỳ chatbot nào khác, dù đó là Gemini, Claude hay ChatGPT, ngoại trừ phản hồi chậm hơn. Điều này không có gì đáng ngạc nhiên khi quá trình xử lý diễn ra hoàn toàn trên phần cứng điện thoại của bạn thay vì trung tâm dữ liệu.

Ví dụ đã chạy một bài kiểm tra cơ bản với 3 mô hình: Gemma 3 1B (1,07GB), Gemma 3 4B (2,36GB) và Gemma 4 E2B (4,03GB). Mỗi mô hình nhận được 8 prompt giống nhau trong một cuộc trò chuyện mới với cài đặt mặc định. Các câu hỏi bao gồm kiến ​​thức tổng quát, toán học, logic, tóm tắt, lập trình và một câu hỏi mẹo có chủ đích để kiểm tra ảo giác.

Đây là điểm số của chúng:

Cả ba mô hình đều thực hiện tốt các tác vụ cơ bản. Chúng xác định chính xác Canberra là thủ đô của Úc, tính toán mức giảm giá 25% trên số tiền 800 rupee, giải một bài toán logic bắc cầu và viết được một hàm Python hoạt động bình thường. Chúng thậm chí còn đếm đúng số chữ "r" trong từ "strawberry" – một yêu cầu thường gây khó khăn cho cả một số mô hình chạy trên nền tảng đám mây.

Có một yêu cầu khiến cả ba mô hình đều "sập bẫy": Tác giả yêu cầu chúng tóm tắt một bài phát biểu mà Albert Einstein đã trình bày trước Quốc hội vào năm 1987. Vì Einstein đã qua đời từ năm 1955 nên bài phát biểu đó hoàn toàn không tồn tại. Tuy nhiên, cả ba mô hình đều tự tin đưa ra một bản tóm tắt nghe có vẻ hợp lý thay vì chỉ ra rằng tiền đề đó là sai sự thật. Đây chính là rủi ro lớn nhất về độ tin cậy đối với các mô hình chạy cục bộ, và việc tăng kích thước mô hình cũng không giúp khắc phục được vấn đề này.

Xét về tốc độ, mô hình 1B là nhanh nhất và phản hồi nhạy nhất, rất phù hợp để sử dụng cho các câu hỏi nhanh. Mô hình E2B sử dụng bước "Suy nghĩ" (Think) trước khi đưa ra câu trả lời; điều này khiến một số yêu cầu ngắn mất từ ​​30 đến 40 giây để xử lý, dù tốc độ tạo token thực tế của nó nhanh hơn. Đối với các cuộc trò chuyện thông thường, đây là một sự đánh đổi đáng kể.

PocketPal là một người bạn đồng hành ngoại tuyến đáng tin cậy, nhưng không thể thay thế Gemini

PocketPal còn có tính năng trò chuyện bằng giọng nói, cho phép bạn tương tác mà không cần dùng tay. Tuy nhiên, đây là tính năng dành riêng cho gói Plus (yêu cầu trả phí ít nhất 5 USD để mở khóa). Dù là tùy chọn bổ sung, nhưng nó sẽ rất hữu ích nếu bạn thường xuyên sử dụng PocketPal.

Cần lưu ý rằng PocketPal không phải là đối thủ cạnh tranh trực tiếp với Gemini. Gemini có khả năng thực hiện nhiều tác vụ hơn là chỉ trả lời các câu lệnh văn bản: Nó có thể đọc nội dung trên màn hình của bạn, tích hợp với các ứng dụng Google, tự động hóa các quy trình gồm nhiều bước và truy xuất dữ liệu từ Internet theo thời gian thực. PocketPal không thể làm được những điều đó. Thay vào đó, PocketPal cung cấp cho bạn một trợ lý AI riêng tư, hoạt động mà không cần dựa vào đám mây, chạy trực tiếp trên thiết bị của chính bạn và không yêu cầu phí đăng ký hàng tháng. Ngoài ra, dữ liệu của bạn cũng sẽ không được dùng để huấn luyện các mô hình ngôn ngữ lớn (LLM).