Học CNTT

Kỹ thuật thiết kế Prompt

Hệ thống bộ nhớ: Phiên, bộ nhớ dài hạn và RAG

Hệ thống bộ nhớ: Phiên, bộ nhớ dài hạn và RAG
Kỹ thuật thiết kế Prompt

  • Cửa sổ ngữ cảnh: Bộ nhớ làm việc của AI

    Cửa sổ ngữ cảnh: Bộ nhớ làm việc của AI
    Hãy hiểu cách thức hoạt động của cửa sổ ngữ cảnh, tại sao cửa sổ ngữ cảnh lớn không phải lúc nào cũng tốt hơn, và cách phân bổ token như một nguồn tài nguyên có hạn để tạo ra đầu ra AI chất lượng cao và nhất quán.

  • Tại sao cùng một prompt lại cho ra kết quả khác nhau?

    Tại sao cùng một prompt lại cho ra kết quả khác nhau?
    Kỹ thuật tạo ngữ cảnh là lĩnh vực tiếp nối nơi kỹ thuật viết prompt dừng lại. Thay vì chỉ tạo ra hướng dẫn hoàn hảo, bạn đang thiết kế toàn bộ môi trường thông tin mà AI của bạn hoạt động.

  • Xây dựng tính năng LLM cho sản xuất

    Xây dựng tính năng LLM cho sản xuất
    Trong 7 bài học trước, bạn đã tìm hiểu về các kỹ thuật tạo prompt (bài 2), đầu ra có cấu trúc (bài 3), RAG (bài 4), bảo mật (bài 5), đánh giá (bài 6) và vận hành sản xuất (bài 7). Bài tập cuối cùng này xây dựng một hệ thống thực tế sử dụng tất cả các kỹ thuật đó.

  • Quản lý prompt dành cho sản xuất

    Quản lý prompt dành cho sản xuất
    Một prompt hoạt động tốt trong môi trường phát triển cần ba yếu tố để tồn tại trong môi trường sản xuất: Quản lý phiên bản (để có thể hoàn tác), giám sát (để biết khi nào chất lượng giảm sút) và quản lý chi phí (để hóa đơn không làm bạn bất ngờ).

  • Xây dựng quy trình tự động hóa AI thực tế trong doanh nghiệp

    Xây dựng quy trình tự động hóa AI thực tế trong doanh nghiệp
    Bài học này sẽ đề cập đến các mẫu thiết kế giúp phân biệt những quy trình làm việc hoạt động ổn định trong nhiều tháng với những quy trình bị lỗi ngay từ ngày thứ 3.

  • AI Agent và GPT tùy chỉnh trong tự động hóa doanh nghiệp

    AI Agent và GPT tùy chỉnh trong tự động hóa doanh nghiệp
    Một số tác vụ cần nhiều hơn là chỉ di chuyển dữ liệu. Chúng cần sự hiểu biết, khả năng phán đoán và khả năng thích ứng. Đó là lúc các AI agent phát huy tác dụng.

  • Test và đánh giá prompt

    Test và đánh giá prompt
    Bạn sẽ không phát hành code mà không có kiểm tra. Các prompt cũng không ngoại lệ. Nhưng đầu ra của LLM không mang tính xác định, điều đó có nghĩa là kiểm thử truyền thống không hiệu quả. Bạn cần một cách tiếp cận khác.

  • Giới hạn an toàn và bảo mật prompt

    Giới hạn an toàn và bảo mật prompt
    Tấn công Prompt injection là kiểu tấn công SQL injection của kỷ nguyên AI. Và cũng giống như SQL injection, đây là lỗ hổng bảo mật số 1 trong danh sách OWASP Top 10 dành cho các ứng dụng LLM.

  • RAG và Context Engineering (Kỹ thuật ngữ cảnh)

    RAG và Context Engineering (Kỹ thuật ngữ cảnh)
    Mô hình ngôn ngữ lớn (LLM) thường tạo ra những văn bản nghe có vẻ tự tin nhưng thực tế lại sai. RAG (Retrieval-Augmented Generation) khắc phục điều này bằng cách cung cấp cho LLM dữ liệu thực tế của bạn trước khi nó phản hồi.

  • Kết quả đầu ra có cấu trúc và sử dụng công cụ tạo prompt cho lập trình

    Kết quả đầu ra có cấu trúc và sử dụng công cụ tạo prompt cho lập trình
    Đầu ra văn bản là ổn cho trò chuyện. Nhưng các ứng dụng sản xuất cần dữ liệu - những đối tượng JSON, các trường được định kiểu, schema được xác thực. Bạn cần LLM trả về một từ điển Python, chứ không phải một đoạn văn.