课程大纲 第 158 课,共 250 课 · 构建一个 RAG 流水线
构建一个 RAG 流水线

组装有依据的提示词

检索找到了正确的文本块;现在你必须告诉模型使用它们,而且只用它们。这就是提示词组装那一步,也是执行依据的地方。一个有依据的提示词要做三件事:清楚地展示检索到的上下文,指示模型只根据这些上下文回答,并给模型一个逃生出口,让它能承认不知道,而不是编造答案。

给文本块编号之所以重要有两个原因:它在视觉上把它们分开,让模型不会把两个段落混在一起;而且如果你之后要求引用,它能让模型引用"[2]"。逃生出口那一行是上一课拒绝防护的另一半:即使检索还不错,具体的答案也可能不在文本里,而一个被准确告知不知道时该说什么的模型,产生幻觉的可能性要小得多。

System: Answer the question using only the context below.
If the answer is not in the context, reply exactly: I don't know.

Context:
[1] Refunds are issued within five business days...
[2] Shipping takes 5 to 7 business days...

Question: how long do refunds take?
Assistant:

末尾那一行 Assistant: 是开放的轮次:模型从那里开始写。(在你的浏览器里,设备端的 WebLLM 会接收这个完全相同的字符串并产生答案。你被评分的只是你组装的字符串,从来不是模型的回复,那才是你实际设计的确定性部分。)

要构建什么。写 build_rag_prompt(query, contexts),其中 contexts 是一个文本块字符串列表。返回的提示词必须:

  • 包含每个上下文文本块,从 1 开始按顺序编号为 [1] ...、[2] ...。
  • 包含只使用上下文回答的准确指令。
  • 包含准确的逃生出口 I don't know.(答案不在其中时,模型被指示的回复)。
  • 包含 query 文本。
  • 以一个开放的回答轮次结尾(最后一个非空行是 Assistant: 标记)。

按 Run 用两个检索到的文本块组装一个提示词,并把它读一遍。

轮到你了

写 build_rag_prompt(query, contexts),返回一个有依据的提示词字符串。它必须把每个上下文文本块按顺序编号为 [1] ...、[2] ...,包含一条只使用上下文回答的指令,包含准确的逃生出口 I don't know.,包含 query,并以一个开放的 Assistant: 轮次结尾。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。