组装有依据的提示词
检索找到了正确的文本块;现在你必须告诉模型使用它们,而且只用它们。这就是提示词组装那一步,也是执行依据的地方。一个有依据的提示词要做三件事:清楚地展示检索到的上下文,指示模型只根据这些上下文回答,并给模型一个逃生出口,让它能承认不知道,而不是编造答案。
给文本块编号之所以重要有两个原因:它在视觉上把它们分开,让模型不会把两个段落混在一起;而且如果你之后要求引用,它能让模型引用"[2]"。逃生出口那一行是上一课拒绝防护的另一半:即使检索还不错,具体的答案也可能不在文本里,而一个被准确告知不知道时该说什么的模型,产生幻觉的可能性要小得多。
System: Answer the question using only the context below.
If the answer is not in the context, reply exactly: I don't know.
Context:
[1] Refunds are issued within five business days...
[2] Shipping takes 5 to 7 business days...
Question: how long do refunds take?
Assistant:末尾那一行 Assistant: 是开放的轮次:模型从那里开始写。(在你的浏览器里,设备端的 WebLLM 会接收这个完全相同的字符串并产生答案。你被评分的只是你组装的字符串,从来不是模型的回复,那才是你实际设计的确定性部分。)
要构建什么。写 build_rag_prompt(query, contexts),其中 contexts 是一个文本块字符串列表。返回的提示词必须:
- 包含每个上下文文本块,从 1 开始按顺序编号为
[1] ...、[2] ...。 - 包含只使用上下文回答的准确指令。
- 包含准确的逃生出口
I don't know.(答案不在其中时,模型被指示的回复)。 - 包含
query文本。 - 以一个开放的回答轮次结尾(最后一个非空行是
Assistant:标记)。
按 Run 用两个检索到的文本块组装一个提示词,并把它读一遍。
写 build_rag_prompt(query, contexts),返回一个有依据的提示词字符串。它必须把每个上下文文本块按顺序编号为 [1] ...、[2] ...,包含一条只使用上下文回答的指令,包含准确的逃生出口 I don't know.,包含 query,并以一个开放的 Assistant: 轮次结尾。
这个练习即将开放
完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。
这个浏览器屏蔽了 learn.floati.life 的 Cookie,所以你在这里完成的课程无法按顺序打开。请允许这个网站使用 Cookie,然后重新加载。