4 ứng dụng AI mã nguồn mở có thể sử dụng mỗi ngày

Mọi người đã thử nghiệm vô số công cụ AI nhiều đến mức không thể đếm xuể, nhưng chỉ có 4 công cụ mã nguồn mở tuyệt vời này được chọn vì chúng dễ sử dụng, riêng tư và miễn phí.

4. LocalAI

LocalAI là một ứng dụng mã nguồn mở cho phép bạn chạy các mô hình ngôn ngữ lớn trên phần cứng. Bạn có thể chạy nhiều mô hình khác nhau cục bộ trên thiết bị của mình bằng cách chọn từ thư viện hơn 1.100 tùy chọn của nó.

Nhược điểm duy nhất là nó không có ứng dụng desktop chuyên dụng. Thay vào đó, bạn phải cài đặt và chạy mô hình thông qua dòng lệnh. Sau khi cài đặt, bạn có thể dễ dàng cài đặt các mô hình mới bằng cách chạy lệnh local-ai models install [model identifier], sau đó chạy bất kỳ mô hình nào đã tải xuống bằng lệnh local-ai run [model identifier].

Khi một mô hình đang chạy, LocalAI cung cấp cho bạn một giao diện web thân thiện với người dùng để tương tác với mô hình (như trong hình trên). Từ giao diện người dùng web, bạn có thể cấu hình các prompt tùy chỉnh, duyệt những mô hình có sẵn và cài đặt chúng.

3. AnythingLLM

AnythingLLM là một ứng dụng mã nguồn mở được thiết kế để làm việc với các mô hình ngôn ngữ lớn (LLM) một cách linh hoạt và dễ tiếp cận. Nhờ giao diện trực quan, bạn có thể tải xuống và chạy LLM cục bộ mà không cần bất kỳ kỹ năng kỹ thuật nào. Ứng dụng hỗ trợ nhiều mô hình, bao gồm các tùy chọn phổ biến từ OpenAI, Anthropic, Mistral và những triển khai cục bộ thông qua Ollama hoặc LM Studio.

Một tính năng chính của AnythingLLM là các không gian làm việc. Các không gian làm việc này cho phép bạn upload, sắp xếp và quản lý tài liệu, sau đó tương tác với AI để nhận được phản hồi phù hợp với ngữ cảnh trực tiếp từ dữ liệu của bạn. Ví dụ, bạn có thể upload lên file PDF bài giảng và yêu cầu mô hình trích xuất các điểm chính. Điều này đặc biệt hữu ích cho các tác vụ như nghiên cứu, quản lý kiến thức, hỗ trợ khách hàng hoặc bất kỳ tình huống nào bạn cần câu trả lời nhanh chóng, phù hợp dựa trên dữ liệu tùy chỉnh. Ứng dụng cũng tích hợp với cơ sở dữ liệu vector để đảm bảo truy xuất nội dung liên quan nhanh chóng và chính xác.

Vì là mã nguồn mở, bạn có thể tự host AnythingLLM, đảm bảo dữ liệu nhạy cảm hoàn toàn nằm trong tầm kiểm soát của bạn. Sự tập trung vào quyền riêng tư và khả năng tùy chỉnh này khiến AnythingLLM trở thành một trong những ứng dụng AI mã nguồn mở được yêu thích. Nhiều người sử dụng ứng dụng trên macOS, nhưng bạn cũng có thể tải xuống trên Windows và Linux. Nhóm cũng đang phát triển một ứng dụng di động cho phép bạn chạy LLM trên điện thoại thông minh.

2. Jan.ai

Nếu bạn đang tìm kiếm một giải pháp thay thế nguồn mở giống như ChatGPT, Jan.ai chính là câu trả lời. Jan.ai là một ứng dụng trò chuyện AI nguồn mở, ưu tiên quyền riêng tư, chạy hoàn toàn trên máy tính của bạn. Thay vì dựa vào máy chủ đám mây, ứng dụng sử dụng LLM cục bộ, nghĩa là các cuộc trò chuyện và dữ liệu của bạn sẽ không bao giờ rời khỏi máy tính. Điều này khiến nó trở thành một lựa chọn tuyệt vời cho những người dùng quan tâm đến quyền riêng tư, muốn có các tính năng AI mà không làm ảnh hưởng đến thông tin nhạy cảm.

Ứng dụng cung cấp giao diện gọn gàng, không gây mất tập trung, nơi bạn có thể trò chuyện với các mô hình AI giống như khi sử dụng ChatGPT. Tuy nhiên, vì được chạy cục bộ, hiệu suất phụ thuộc vào phần cứng máy tính của bạn - GPU mạnh hơn và RAM lớn hơn cho phép phản hồi nhanh chóng, phức tạp hơn. Jan.ai hỗ trợ nhiều mô hình khác nhau, cho phép bạn chọn mô hình phù hợp với nhu cầu của mình dựa trên nhiệm vụ đang thực hiện.

Khi bạn cài đặt ứng dụng, nó sẽ tải xuống một mô hình để bạn có thể bắt đầu trò chuyện ngay lập tức. Tuy nhiên, bạn có thể vào mục Hub của ứng dụng để tải xuống bất kỳ mô hình nguồn mở nào mình muốn. Mục Hub của ứng dụng liệt kê nhiều mô hình từ các nhà cung cấp mô hình khác nhau, bao gồm HuggingFace, trang web mọi người thường truy cập để khám phá những mô hình AI mới.

Mặc dù Jan.ai là ứng dụng ngoại tuyến, nhưng nó cho phép bạn kết nối với các mô hình thương mại chạy trên đám mây, chẳng hạn như các mô hình từ OpenAI, Gemini, Groq và Anthropic. Tương tự như AnythingLLM, bạn cũng có thể upload lên các file và nhận thông tin chi tiết từ chúng, rất tiện lợi cho việc nghiên cứu và học tập.

1. Ollama

Ollama là một ứng dụng AI mã nguồn mở khác cho phép bạn chạy LLM trên phần cứng của mình. Bạn có thể chọn một mô hình từ thư viện đa dạng của Ollama, bao gồm các lựa chọn phổ biến như Llama 3, Mistral, Gemma, DeepSeek-R1, Phi, Code Llama, và thậm chí cả những LLM ngoại tuyến tốt nhất.

Để thuận tiện, Ollama có ứng dụng dành cho desktop (có sẵn trên Windows, macOS và Linux), giúp mọi người dễ dàng sử dụng. Giao diện tương tự như các ứng dụng khác như ChatGPT, với lịch sử trò chuyện ở bên trái và giao diện chính ở bên phải.

Bạn có thể chọn một mô hình để sử dụng từ giao diện, và Ollama cung cấp cho bạn tùy chọn tìm kiếm trên web, một tính năng hiếm có trong các ứng dụng AI nguồn mở. Nhược điểm duy nhất là bạn phải đăng nhập để sử dụng tính năng tìm kiếm trên web.

Từ giao diện, bạn có thể upload file lên bằng cách kéo thả và hỏi các mô hình về chúng, miễn là mô hình được chọn hỗ trợ đầu vào đa phương thức. Đối với các tài liệu lớn, bạn có thể tăng độ dài ngữ cảnh trong cài đặt của ứng dụng lên đến 128.000 token.

Nếu là nhà phát triển, bạn có thể cài đặt và tương tác với Ollama thông qua dòng lệnh, sau đó chạy mô hình bằng lệnh ollama run [model identifier].

Các ứng dụng AI nguồn mở như AnythingLLM, Jan.ai, LocalAI và Ollama chứng minh rằng bạn không cần phải hy sinh quyền riêng tư hay quyền kiểm soát để khai thác sức mạnh của AI. Những ứng dụng này giúp bạn dễ dàng chạy mô hình AI cục bộ bất kể phần cứng của bạn. Quan trọng nhất, chúng cung cấp giao diện đẹp mắt, sánh ngang với các ứng dụng độc quyền như Gemini, ChatGPT và Copilot.