Chương trình học Bài 158 trên tổng số 250 · Xây một pipeline RAG
Xây một pipeline RAG

Lắp ráp prompt có căn cứ

Truy xuất đã tìm được đúng các đoạn; giờ bạn phải bảo mô hình dùng chúng và không gì khác. Đây là bước lắp ráp prompt, và là nơi việc có căn cứ được thực thi. Một prompt có căn cứ làm ba việc: nó trình bày ngữ cảnh truy xuất được một cách rõ ràng, nó chỉ dẫn mô hình chỉ trả lời từ ngữ cảnh đó, và nó cho mô hình một lối thoát để có thể thừa nhận không biết thay vì bịa ra một câu trả lời.

Đánh số các đoạn quan trọng vì hai lý do: nó tách chúng ra bằng mắt để mô hình không trộn lẫn hai đoạn với nhau, và nó cho phép mô hình dẫn "[2]" nếu sau này bạn yêu cầu trích dẫn. Dòng lối thoát là nửa kia của hàng rào từ chối ở bài trước: kể cả khi truy xuất khá tốt, câu trả lời cụ thể có thể không có trong văn bản, và một mô hình được bảo chính xác phải nói gì khi nó không biết thì ít khả năng ảo giác hơn nhiều.

System: Answer the question using only the context below.
If the answer is not in the context, reply exactly: I don't know.

Context:
[1] Refunds are issued within five business days...
[2] Shipping takes 5 to 7 business days...

Question: how long do refunds take?
Assistant:

Dòng Assistant: ở cuối đó là lượt đang mở: đó là chỗ mô hình bắt đầu viết. (Trong trình duyệt của bạn, WebLLM trên thiết bị sẽ nhận đúng chuỗi này và tạo ra câu trả lời. Bạn chỉ được chấm trên chuỗi bạn lắp ráp, không bao giờ trên câu trả lời của mô hình, đó là phần có tính quyết định mà bạn thật sự thiết kế.)

Cần xây gì. Viết build_rag_prompt(query, contexts) trong đó contexts là một list các chuỗi đoạn. Prompt trả về phải:

  • Chứa từng đoạn context, đánh số bắt đầu từ 1 dưới dạng [1] ..., [2] ... theo thứ tự.
  • Chứa chỉ dẫn chính xác là chỉ trả lời bằng ngữ cảnh.
  • Chứa lối thoát chính xác I don't know. (câu trả lời được chỉ dẫn của mô hình khi không có câu trả lời).
  • Chứa văn bản query.
  • Kết thúc ở một lượt trả lời đang mở (dòng không rỗng cuối cùng là dấu Assistant:).

Bấm Chạy để lắp ráp một prompt từ hai đoạn truy xuất được và đọc lại nó.

Đến lượt bạn

Viết build_rag_prompt(query, contexts) trả về một chuỗi prompt có căn cứ. Nó phải đánh số từng đoạn context dưới dạng [1] ..., [2] ... theo thứ tự, gồm một chỉ dẫn chỉ trả lời bằng ngữ cảnh, gồm lối thoát chính xác I don't know., gồm query, và kết thúc ở một lượt Assistant: đang mở.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.