SillyTavern

Khi nhắc đến ứng dụng chat AI, hầu hết mọi người thường hình dung về khung nhập văn bản đơn giản, gọn gàng của ChatGPT: Bạn gõ tin nhắn, nhận phản hồi rồi tiếp tục công việc thường ngày. Tuy nhiên, nếu muốn tùy biến trải nghiệm AI theo đúng ý mình, có một ứng dụng sẽ đáp ứng hoàn hảo nhu cầu đó. SillyTavern là một interface mã nguồn mở miễn phí, giúp biến việc trò chuyện với các mô hình ngôn ngữ lớn (LLM) thành một trải nghiệm chuyên nghiệp và đầy đủ tính năng như tại một studio sản xuất thực thụ.

Song, chính khả năng tùy biến cao độ này lại khiến nó trở thành một trong những công cụ ít thân thiện với người mới bắt đầu nhất trong lĩnh vực AI hiện nay. Đây là một thử thách không nhỏ đối với những ai chưa am hiểu về cách vận hành các ứng dụng AI. Nhưng nếu vượt qua được khâu thiết lập ban đầu, bạn sẽ thấy ứng dụng này hoàn toàn xứng đáng với công sức bỏ ra.

SillyTavern là gì?

SillyTavern là một interface được cài đặt cục bộ dùng để tương tác với các mô hình ngôn ngữ lớn (LLM) tạo văn bản, công cụ tạo hình ảnh và mô hình chuyển văn bản thành giọng nói; nó được phát triển dựa trên mã nguồn của TavernAI từ tháng 2 năm 2023. Bản thân nó không chạy bất kỳ mô hình nào mà đóng vai trò như một bộ điều khiển từ xa đa năng.

Bộ điều khiển này kết nối với hàng loạt backend như KoboldAI, Ooba, Tabby, OpenAI, Claude, Mistral, Gemini, OpenRouter, NovelAI, AI Horde và nhiều hệ thống khác, tất cả đều có thể truy cập thông qua một interface duy nhất. Thiết kế này mang lại sự linh hoạt cực cao. Bạn có thể chuyển đổi từ mô hình Ollama cục bộ sang Claude hoặc endpoint miễn phí của OpenRouter mà không cần thoát ứng dụng hay làm mất lịch sử trò chuyện.

Triết lý lấy nhân vật làm trọng tâm

Mọi thứ trong SillyTavern đều xoay quanh các "thẻ nhân vật" (character card) - tập hợp các câu lệnh định hình tính cách AI và là yếu tố cần thiết để duy trì những cuộc trò chuyện liên tục. Chúng không chỉ đơn thuần là các file văn bản. Thẻ nhân vật thực chất là một hình ảnh PNG có chứa thông tin mô tả tính cách, phong cách đối thoại, bối cảnh và các quy tắc hành vi được nhúng dưới dạng siêu dữ liệu (metadata) bên trong file; nhờ đó, ảnh đại diện và dữ liệu nhân vật cùng nằm trong một đối tượng duy nhất.

Vì đây là dự án mã nguồn mở nên cộng đồng người dùng cũng rất phát triển. Có nhiều trang web cung cấp hàng chục nghìn thẻ nhân vật để tải xuống, cho phép bạn kéo và thả trực tiếp vào ứng dụng đã cài đặt trên máy. Ngoài ra, SillyTavern còn hỗ trợ trò chuyện nhóm, nơi nhiều nhân vật AI có thể trò chuyện với bạn hoặc với nhau trong cùng một phòng - một tính năng khá hữu ích đối với chat frontend.

Bộ nhớ, thông tin bối cảnh và chiều sâu nội dung

Các từ khóa âm thầm điều chỉnh câu lệnh ở phía sau

SillyTavern đi kèm với một tính năng gọi là World Info, giống như các "lorebook" (thông tin thế giới/cốt truyện); đây là hệ thống giúp định nghĩa các nhân vật, địa điểm và những đoạn thông tin bối cảnh cố định, tự động được chèn vào câu lệnh (prompt) mỗi khi các từ khóa cụ thể xuất hiện trong cuộc trò chuyện. Nhờ đó, ứng dụng có thể duy trì những cốt truyện dài kỳ hoặc tính cách nhân vật nhất quán mà bạn không cần phải kể lại lai lịch hay bối cảnh mỗi khi bắt đầu phiên trò chuyện mới.

Thậm chí còn có tiện ích mở rộng lưu trữ vector dành cho các nhu cầu sử dụng chuyên sâu hơn, cho phép truy xuất bộ nhớ dài hạn thông qua kỹ thuật "embedding". Về cơ bản, nó mô phỏng quy trình RAG (Retrieval-Augmented Generation) tích hợp sẵn, giúp AI trích xuất thông tin bối cảnh liên quan từ một lịch sử dữ liệu lớn hơn nhiều so với giới hạn cửa sổ ngữ cảnh thông thường. Kết hợp thêm tính năng Data Bank để tham chiếu các tài liệu cá nhân, bạn sẽ có một công cụ hoạt động không chỉ đơn thuần như chatbot, mà giống một trợ lý kiến ​​thức cá nhân có cá tính riêng.

Điểm thực sự ấn tượng của SillyTavern

Kỹ thuật viết prompt (prompt engineering) giờ đây chẳng khác nào lập trình thực thụ

Ngoài các cuộc trò chuyện thông thường, SillyTavern còn có chế độ "Visual Novel Mode", biến khung chat thành trải nghiệm game tiểu thuyết trực quan đích thực, với đầy đủ hình ảnh nhân vật, biểu cảm thay đổi linh hoạt và phông nền cảnh vật. Ứng dụng tích hợp trực tiếp với Automatic1111 và ComfyUI để tạo ảnh bằng Stable Diffusion hoặc FLUX ngay trong luồng trò chuyện, cho phép nhân vật tự tạo hình ảnh minh họa giữa cuộc đối thoại.

Tính năng chuyển văn bản thành giọng nói (TTS) hỗ trợ nhiều nhà cung cấp như ElevenLabs, Coqui và GPT-SoVITS, cho phép gán giọng nói riêng biệt cho từng nhân vật. Nền tảng cốt lõi của tất cả những tính năng này là STscript – một ngôn ngữ chuyên dụng cho macro và lệnh slash, giúp bạn tự động hóa chuỗi prompt, quản lý biến số và thiết lập logic điều kiện ngay trong giao diện trò chuyện. Nếu bạn từng muốn tiếp cận kỹ thuật viết prompt như một công việc lập trình thực thụ, thì đây chính là công cụ dành cho bạn.

Quy trình thiết lập và lý do tạo nên danh tiếng của SillyTavern

Cần thực hiện vài bước cài đặt trước khi bạn có thể bắt đầu cuộc trò chuyện đầu tiên

Nếu những điều trên nghe có vẻ phức tạp hoặc khó hiểu, bạn sẽ bắt đầu hiểu tại sao SillyTavern lại mang danh tiếng như vậy. Việc cài đặt SillyTavern đòi hỏi bạn phải cài đặt Node.js (phiên bản LTS), sau đó cài đặt Git, clone nhánh phát hành của kho lưu trữ, chạy lệnh `npm install` và khởi động máy chủ thủ công thông qua script khởi động dành cho hệ điều hành của bạn. Tài liệu chính thức thậm chí còn cảnh báo không nên cài đặt nó trong các thư mục hệ thống được bảo vệ như Program Files hoặc System32, vì những vấn đề về quyền truy cập có thể khiến phần mềm bị lỗi ngay cả trước khi bạn kịp chạy nó lần đầu.

Ngay cả khi đã chạy được chương trình trên máy cục bộ, bạn vẫn chưa thể trò chuyện với bất kỳ ai hay thứ gì. Bạn cần phải kết nối riêng một "model backend", dán API key hoặc trỏ đến một máy chủ suy luận cục bộ; chỉ khi đó bạn mới có thể thử gửi tin nhắn. Những việc này không quá khó khăn với người đã quen dùng dòng lệnh (terminal), nhưng nếu so sánh quy trình này với việc chạy các ứng dụng như Ollama hay LM Studio, bạn sẽ nhanh chóng thấy rào cản kỹ thuật ở đây cao đến mức nào.

SillyTavern thực sự dành cho ai?

SillyTavern dành cho những người coi việc sửa lỗi là một thú vui

SillyTavern được cấp phép theo chuẩn AGPL-3.0, được thiết kế để người dùng tự host, và nhắm mục tiêu rõ ràng vào những người đam mê AI - những người muốn kiểm soát sâu các câu lệnh (prompt), nhân vật và quy trình tạo nội dung - thay vì người dùng phổ thông chỉ muốn có câu trả lời nhanh chóng. Nó đáp ứng hoàn hảo bản năng mày mò, khám phá thường thấy ở những người thích tự vận hành hệ thống và xây dựng homelab. Nếu gặp sự cố và phản xạ đầu tiên là muốn tìm hiểu nguyên nhân, có khi bạn lại thấy thích thú với cả quá trình thiết lập này.

Tuy nhiên, nó phức tạp hơn nhiều so với việc chạy các ứng dụng tự host đóng gói bằng Docker vốn chỉ cần một lệnh duy nhất trong terminal. Ngay cả tài liệu chính thức cũng định hình theo hướng đó, mô tả mục tiêu là tối đa hóa quyền kiểm soát của người dùng, đồng thời coi quá trình học hỏi và làm quen với hệ thống là một phần của niềm vui. Việc đó mang lại cảm giác thú vị hay mệt mỏi hoàn toàn phụ thuộc vào mức độ yêu thích của bạn đối với công việc thiết lập phần mềm trước khi thực sự sử dụng nó.