LangChain LLM đang là một chủ đề “hot” trong giới lập trình. Dưới đây là mọi điều bạn cần biết về LangChain LLM.
LangChain là một framework Python mã nguồn mở, cho phép lập trình viên phát triển ứng dụng do các mô hình ngôn ngữ lớn cung cấp. Những ứng dụng phổ biến của nó là chatbot, tổng kết, đặt câu hỏi và trả lời…
Trước khi đi sâu vào cách thức hoạt động của LangChain, đầu tiên, bạn cần hiểu mô hình ngôn ngữ lớn (LLM) là gì. Về cơ bản, nó là một kiểu trí tuệ nhân tạo (AI) dùng học sâu để huấn luyện các mô hình học máy trên dữ liệu lớn bao gồm text, số và code.
Hạn chế lớn nhất của LLM là các mô hình của nó rất chung chung. Tính năng này có nghĩa dù có khả năng triển khai một số nhiệm vụ hiệu quả, đôi khi, chúng có thể cung cấp những câu trả lời gắn gọn cho những câu hỏi hoặc lời nhắc cần kiến thức chuyên sâu thay vì trả lời cụ thể.
Phương pháp tiền xử lý của LangChain là một tính năng quan trọng không thể tránh khỏi khi LLM trở nên mạnh mẽ hơn và sử dụng nhiều dữ liệu hơn. Phương pháp này chủ yếu được sử dụng trong các trường hợp tìm kiếm mã và ngữ nghĩa vì nó cung cấp khả năng thu thập và tương tác theo thời gian thực với các LLM.
Hướng dẫn sử dụng LangChain LLM
Trước khi bắt đầu quá trình phát triển, bạn cần thiết lập môi trường lập trình.
Thiết lập môi trường lập trình
Đầu tiên, tạo môi trường ảo và cài đặt các phần phụ thuộc bên dưới:
- OpenAI: Để tích hợp GPT-3 API vào ứng dụng.
- LangChain: Để tích hợp LangChain vào ứng dụng của bạn.
Dùng pip, chạy lệnh bên dưới để cài đặt các phần phụ thuộc:
pipenv install langchain openai
Lệnh trên cài đặt các gói và tạo một môi trường ảo.
Nhập các phần phụ thuộc đã cài
Đầu tiên, nhập class cần thiết như LLMChain, OpenAI, ConversationChain, và PromptTemplate từ package langchain.
from langchain import ConversationChain, OpenAI, PromptTemplate, LLMChain
from langchain.memory import ConversationBufferWindowMemory
Class LangChain phác thảo và thực thi các chuỗi mô hình ngôn ngữ.
Truy cập OpenAI API Key
Tiếp theo, lấy khóa OpenAI API. Để truy cập khóa API của OpenAI, bạn phải có tài khoản OpenAI, sau đó chuyển sang nền tảng OpenAI API.
Trên bảng điều khiển, click icon Profile. Sau đó, click nút bấm View API keys.
Tiếp theo, click nút Create new secret key để lấy khóa API mới.
Nhập tên được yêu cầu của key API.
Bạn sẽ nhận được một khóa bí mật.
Sao chép và lưu khóa API ở một nơi an toàn để dùng trong tương lai.
Phát triển ứng dụng bằng LangChain LLM
Giờ bạn sẽ tiếp tục phát triển một ứng dụng chat đơn giản như sau:
# Tùy biến mẫu LLM
template = """Assistant is a large language model trained by OpenAI.
{history}
Human: {human_input}
Assistant:"""
prompt = PromptTemplate(input_variables=["history", "human_input"], template=template)
Tiếp theo, bạn sẽ tải chuỗi ChatGPT bằng khóa API dã lưu trước đó.
chatgpt_chain = LLMChain(
llm=OpenAI(openai_api_key="OPENAI_API_KEY",temperature=0),
prompt=prompt,
verbose=True,
memory=ConversationBufferWindowMemory(k=2),
)
# Dự đoán một câu bằng chuỗi chatgpt
output = chatgpt_chain.predict(
human_input="What is MakeUseOf?"
)
# Hiện phản hồi của mẫu
print(output)
Code này tải chuỗi LLM với khóa OpenAI API và mẫu lời nhắc. Sau đó, cung cấp đầu vào của người dùng và hiện kết quả.
LLM đang ngày càng được ưa chuộng và thay đổi cách con người tương tác với các cỗ máy kiến thức. Những framework như LangChain là “tiên phong” trong việc cung cấp giải pháp đơn giản và mượt mà trong việc đưa LLM vào ứng dụng.
Hi vọng bài viết hữu ích với các bạn!