5 ứng dụng AI cục bộ biến việc chạy LLM trên điện thoại đáng giá

Lần đầu tiên một người dùng thử nghiệm AI chạy cục bộ trên điện thoại là vào năm 2024, với một ứng dụng trò chuyện vô cùng đơn giản. Người này đã nạp một mô hình ngôn ngữ nhỏ gọn (quy mô 1 tỷ tham số - 1B) và đặt vài câu hỏi, nhưng kết quả nhận lại vừa chậm chạp vừa thiếu chính xác. Người dùng này chỉ dùng nó khoảng một tuần rồi xóa bỏ, bởi ChatGPT luôn sẵn sàng chỉ sau một cú chạm, lại còn thông minh hơn nhiều.

Hiện nay, các mô hình AI quy mô nhỏ đã cải thiện đáng kể. Những cái tên như Qwen 3.5, Gemma 4 hay LFM 2.5 của Liquid AI đều có thể chạy mượt mà trên điện thoại; thậm chí, mô hình AI tích hợp sẵn của Apple cũng đã mở quyền truy cập cho các ứng dụng bên thứ ba thông qua framework Foundation Models. Thay đổi lớn hơn nằm ở chính các ứng dụng: Một số nhà phát triển đã tích hợp các mô hình này vào Siri, Shortcuts và Action Button, cho phép người dùng sử dụng chúng mà không cần phải mở cửa sổ trò chuyện.

Tất cả các ứng dụng dưới đây được thử nghiệm trên chiếc iPhone 17 Pro Max chạy hệ điều hành iOS 27. Nhìn chung, cũng như các mô hình ngôn ngữ lớn (LLM) chạy cục bộ khác, mỗi ứng dụng đều mang lại những giá trị hữu ích riêng.

Locally

Ứng dụng iPhone của LM Studio có thể tận dụng sức mạnh xử lý từ máy Mac của bạn

Locally khởi đầu là một ứng dụng độc lập do nhà phát triển Adrien Grondin tạo ra. Vào tháng 4 năm 2026, LM Studio – nền tảng phổ biến trên máy tính dùng để chạy các mô hình AI – đã mua lại ứng dụng này. Hiện tại, nó đóng vai trò là ứng dụng chính thức của LM Studio trên iPhone.

Locally vận hành các mô hình AI trực tiếp trên điện thoại thông qua framework MLX của Apple. Người dùng không cần tạo tài khoản và theo thông tin trên App Store, nhà phát triển cam kết không thu thập bất kỳ dữ liệu nào. Các mô hình được hỗ trợ bao gồm Qwen 3.5, LFM 2.5, Gemma, Llama và mô hình Foundation của chính Apple. Trong đó, Qwen 3.5 còn có khả năng xử lý hình ảnh. Bạn có thể kích hoạt chế độ giọng nói (Voice mode) thông qua các tùy chọn nhanh trên màn hình chính, sử dụng Shortcut hoặc thông qua một nút bấm trong Trung tâm điều khiển (Control Center). Mọi người chủ yếu sử dụng mô hình Qwen 3.5 phiên bản 2B; các phản hồi xuất hiện gần như ngay lập tức. Khi cung cấp ảnh chụp một biên lai, nó có thể xác định được tổng số tiền mà không gặp bất kỳ khó khăn nào.

Tính năng LM Link chính là lý do khiến nhiều người tiếp tục sử dụng ứng dụng này. Ra mắt vào tháng 6, LM Link cho phép kết nối ứng dụng trên điện thoại với phần mềm LM Studio chạy trên máy tính cá nhân, đồng thời sử dụng cơ chế mã hóa đầu cuối. Chiếc MacBook Air có thể đảm nhận các tác vụ nặng, nhờ đó điện thoại có thể truy cập vào những mô hình lớn hơn mà không bị nóng máy hay tiêu hao pin như khi chạy trực tiếp trên thiết bị di động. Các cuộc trò chuyện được lưu trữ ngay trên thiết bị. Một lưu ý nhỏ: Ở chế độ này, điện thoại đóng vai trò như một thiết bị điều khiển từ xa, còn quá trình xử lý thực tế diễn ra trên máy tính.

Một người dùng đã thử chạy mô hình Qwen 3.5 9B trên chiếc MacBook Air 16GB của mình với cùng một yêu cầu vừa thực hiện trên phiên bản 2B trên điện thoại: Lập dàn ý so sánh những thành phố tại Mỹ với các đội bóng bầu dục NFL tương ứng. Phiên bản chạy qua LM Link phản hồi chậm hơn một chút, dù sự khác biệt này rất khó nhận ra. Cả hai dàn ý đều rất chi tiết và tiếp cận chủ đề theo những hướng khác nhau. Có thể thường xuyên chuyển đổi qua lại giữa hai phiên bản này ngay trong cùng một ứng dụng để so sánh các câu trả lời.

Private LLM

Một ứng dụng có giá 4,99 USD, cho phép tích hợp AI cục bộ vào Shortcuts và Siri

Mọi người thường sử dụng Private LLM khi muốn đưa AI vào các quy trình tự động hóa. Ứng dụng này có giá 4,99 USD (trả một lần, không cần đăng ký thuê bao) và hỗ trợ tính năng Family Sharing cho tối đa 6 người dùng.

Private LLM hoạt động với Siri và ứng dụng Shortcuts, cho phép bạn sử dụng mô hình AI như một bước trong quy trình tự động hóa, thay vì phải mở ứng dụng rồi nhập liệu vào khung chat. Ứng dụng này vận hành các mô hình thông qua công cụ MLC-LLM với kỹ thuật nén dữ liệu (quantization) OmniQuant. Theo nhà phát triển, phương pháp này giúp câu trả lời có độ chính xác và sắc nét hơn so với các kỹ thuật nén cơ bản thường thấy ở những ứng dụng khác. Danh sách các mô hình hỗ trợ bao gồm Qwen 3, Phi 4 và Gemma; riêng những dòng iPhone Pro đời mới còn có thể chạy được mô hình Llama 3.1 8B. Tuy nhiên, ứng dụng này chỉ hỗ trợ văn bản; bạn không thể cung cấp hình ảnh cho nó.

Nhiều người thường xuyên sử dụng tính năng đọc chính tả trên iPhone, và thông thường, cần chỉnh sửa lại văn bản đó trước khi có thể sử dụng. Shortcuts gửi nội dung được đọc vào máy tới mô hình Qwen 3 4B, kèm theo yêu cầu chỉnh sửa dấu câu và thêm các đoạn ngắt, nhưng vẫn giữ nguyên cách diễn đạt. Có thể thiết lập shortcut này cho Action Button. Qua thử nghiệm, kết quả trả về chỉn chu đến mức có thể sao chép và dán trực tiếp vào email.

Nhiều người từng lo ngại rằng các đoạn văn bản dài có thể gây khó khăn cho mô hình, nhưng khi thử đưa vào một bài viết dài 750 từ và yêu cầu tóm tắt, nó đã xử lý xong xuôi mà không hề gặp trở ngại nào.

PocketPal AI

Tải trực tiếp bất kỳ mô hình nào từ Hugging Face về điện thoại của bạn

PocketPal AI là ứng dụng mã nguồn mở, miễn phí, được xây dựng dựa trên llama.cpp. Điểm hấp dẫn nhất của nó chính là sự đa dạng. Bạn có thể tìm kiếm các mô hình trên Hugging Face ngay trong ứng dụng, chọn bất kỳ mô hình định dạng GGUF nào, rồi tùy chỉnh mức độ nén (quantization) sao cho phù hợp với dung lượng bộ nhớ trên điện thoại. Nếu mô hình đó yêu cầu quyền truy cập, bạn chỉ cần dán token truy cập từ Hugging Face vào là có thể sử dụng được.

Đây là ứng dụng nhiều người thường mở mỗi khi có một mô hình ngôn ngữ nhỏ mới ra mắt và muốn trải nghiệm ngay trong ngày. PocketPal còn có tính năng "Pals" – cho phép lưu lại các trợ lý ảo với những system prompt riêng – cùng với một cộng đồng nơi bạn có thể khám phá các trợ lý do người khác tạo ra. Theo thông tin từ nhà phát triển, ứng dụng không thu thập dữ liệu người dùng. Ngoài ra, vì hỗ trợ từ iOS 15.1 trở lên, đây là lựa chọn thân thiện nhất cho những chiếc iPhone đời cũ.

Một người dùng đã tải trực tiếp mô hình Gemma 4 E2B từ Hugging Face với dung lượng khoảng 4GB. Sau khi tải xong, người này yêu cầu nó giải thích sự khác biệt giữa một mô hình có 2 tỷ tham số và một mô hình có 9 tỷ tham số; kết quả là nó đã đưa ra câu trả lời chi tiết ngay trên màn hình chỉ trong vài giây.

Google AI Edge Gallery

Nơi trải nghiệm Gemma 4 từ Google với các công cụ tích hợp sẵn

Ứng dụng từ Google này không hẳn là một trợ lý ảo hàng ngày, mà giống như một môi trường thử nghiệm cho các mô hình Gemma của hãng hơn. Ứng dụng hoàn toàn miễn phí, yêu cầu iOS 17 trở lên và hiện đã hỗ trợ Gemma 4, bao gồm cả Thinking Mode – cho phép người dùng quan sát quá trình mô hình phân tích và giải quyết vấn đề.

Tính năng Agent Skills là phần đáng thử nhất. Mỗi skill cung cấp cho mô hình một công cụ cụ thể, chẳng hạn như tra cứu Wikipedia để kiểm chứng thông tin, bản đồ tương tác hoặc thẻ tóm tắt trực quan. Bạn thậm chí có thể nạp thêm các skill khác thông qua đường dẫn URL. Google cho biết ứng dụng vẫn đang trong quá trình phát triển tích cực, điều này giải thích cho một số điểm còn chưa hoàn thiện. Cần lưu ý rằng ứng dụng này khác biệt hoàn toàn với ứng dụng Gemini.

Một người dùng đã thử nghiệm skill Wikipedia (yêu cầu kết nối mạng) với một vài câu hỏi kiểm chứng thông tin về loạt phim "Friends". Gemma 4 luôn truy xuất đúng trang cần thiết và đưa ra các bản tóm tắt chính xác. Khi bật "Thinking Mode" – một thiết lập của mô hình – người dùng này nhận được thông tin tương tự nhưng ở định dạng khác, trong khi tốc độ phản hồi gần như không thay đổi. Đây là một tính năng có thể bật/tắt trong mô-đun AI Chat, cho phép người dùng trực tiếp theo dõi quá trình suy luận nội bộ của mô hình.

Enclave AI

Trò chuyện với các file PDF của bạn, ngay cả khi ở Airplane Mode

Enclave là ứng dụng miễn phí (có tùy chọn mua thêm các mô hình lớn hơn trong ứng dụng) và vận hành dựa trên nền tảng llama.cpp. Ứng dụng này hỗ trợ hai tính năng mà nhiều người đặc biệt quan tâm: Trò chuyện bằng giọng nói cục bộ (không cần kết nối Internet) và khả năng làm việc trực tiếp với các tài liệu ngay trong ứng dụng. Ngoài ra, ứng dụng còn cung cấp tác vụ "Ask Enclave" thông qua Shortcuts và hỗ trợ Siri.

Enclave cũng có thể kết nối với các mô hình trên nền tảng đám mây như Claude hay Gemini. Tính năng này khá tiện lợi, nhưng hãy lưu ý kiểm tra xem mô hình nào đang được chọn trước khi nhập bất kỳ thông tin nhạy cảm nào.

Một người dùng đã thử nạp mô hình Gemma 4 E2B của Google (file tải xuống dung lượng 8GB) vào Enclave và cung cấp một file PDF. Tốc độ phản hồi chậm hơn một chút so với các ứng dụng khác, nhưng thông tin đưa ra vẫn chính xác và được trích xuất từ ​​đúng các phần trong tài liệu. Tính năng trò chuyện bằng giọng nói cũng hoạt động. Người dùng này đã thử bật Airplane Mode để trò chuyện mà không cần kết nối mạng; kết quả là phản hồi bị chậm, còn giọng nói thì nghe rất giống máy móc.