Chương trình học Bài 214 trên tổng số 250 · Dự án: Customer Support Copilot
Dự án: Customer Support Copilot

Lấy + Xây dựng Grounded Prompt

Truy xuất đã chạy: bạn tìm được đúng bài viết. Giờ đến động tác khiến RAG đáng tin thay vì là một kẻ nói dối tự tin: bám nguồn. Bạn trao cho mô hình ngôn ngữ văn bản đã truy xuất và chỉ dẫn nó trả lời chỉ từ văn bản đó, và nói ra khi câu trả lời không có ở đó. Mô hình không bao giờ thấy tài liệu thô của bạn; nó thấy prompt bạn ráp. Nên prompt chính là sản phẩm. Bài này xây prompt đó.

Đây là nơi ảo giác thắng hay thua. Một bot hỗ trợ bịa ra một thời hạn hoàn tiền còn tệ hơn vô dụng: nó là một rủi ro pháp lý. Cách sửa là một prompt có kỷ luật gồm ba phần: các đoạn đã truy xuất được rào và đánh số để mô hình trích dẫn được, câu hỏi của người dùng, và một lối thoát tường minh khi ngữ cảnh không chứa câu trả lời.

Viết một hàm:

assemble_prompt(query, retrieved_chunks)  # -> the full prompt string

Nó phải, theo thứ tự:

  • Nêu quy tắc rằng trợ lý chỉ trả lời bằng ngữ cảnh bên dưới.
  • Có dòng này chính xác, từng ký tự: If the answer is not in the context, reply exactly: I do not know.
  • Mở một phần CONTEXT:, rồi liệt kê từng đoạn được đánh số và rào, như [1] theo sau là văn bản của đoạn giữa ba dấu nháy, rồi [2], và cứ thế, theo thứ tự được cho.
  • Thêm câu hỏi của người dùng trên một dòng QUESTION:.
  • Kết thúc bằng một lượt trả lời mở: một dòng ANSWER: cuối cùng không có gì sau nó, để mô hình viết câu trả lời tiếp theo.

Việc đánh số quan trọng: nó là thứ cho phép mô hình (và bài tiếp theo) trích dẫn nguồn nào mà một khẳng định đến từ đó. Dòng thoát chính xác cũng quan trọng: mã phía sau sẽ tìm đúng câu canh gác đó để phát hiện một lần từ chối, nên một cách diễn đạt khác sẽ làm hỏng mọi thứ.

Xử lý trường hợp thiếu ngữ cảnh: nếu retrieved_chunks rỗng, bạn vẫn tạo ra một prompt hợp lệ (chỉ dẫn, dòng thoát, một ngữ cảnh rỗng, câu hỏi, và lượt trả lời mở), khi đó mô hình sẽ trả lời đúng bằng câu canh gác. Lệnh gọi LLM thật không thuộc bài tập này; bạn đang xây chuỗi mà nó sẽ nhận. Nhấn Chạy để in ra một prompt bám nguồn và đọc nó như mô hình sẽ đọc.

Đến lượt bạn

Viết assemble_prompt(query, retrieved_chunks) trả về chuỗi prompt grounded đầy đủ: một chỉ dẫn chỉ trả lời từ ngữ cảnh, dòng If the answer is not in the context, reply exactly: I do not know. chính xác, một phần CONTEXT: với mỗi đoạn được đánh số [1], [2], ... và nằm trong dấu ngoặc kép ba theo thứ tự, một dòng QUESTION:, và một lượt ANSWER: mở cuối cùng. Một danh sách đoạn trống vẫn tạo ra một prompt hợp lệ.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.