检索 + 构建有依据的提示词
检索能用了:你能找到正确的文章。接下来这一步,让 RAG 变得值得信赖,而不是一个自信的骗子:依据。你把检索到的文本交给语言模型,并指示它只根据这些文本回答,在答案不在里面时就明说。模型从来看不到你的原始文档;它看到的是你组装的提示词。所以提示词就是产品。这一课构建这个提示词。
幻觉的胜负就在这里。一个编造出退款期限的客服机器人比没用还糟:它是一种责任风险。解决办法是一个有纪律的提示词,包含三部分:用围栏框起来并编号的检索文本块,让模型能引用它们;用户的问题;以及一个明确的逃生出口,用于上下文里不包含答案的情况。
写一个函数:
assemble_prompt(query, retrieved_chunks) # -> the full prompt string它必须按顺序做到:
- 说明规则:助手只使用下面的上下文来回答。
- 原样、一字不差地包含这一行:
If the answer is not in the context, reply exactly: I do not know. - 开一个
CONTEXT:部分,然后编号并用围栏框起每个文本块,比如[1]后面跟着放在三引号之间的文本块内容,然后是[2],依此类推,按给定的顺序。 - 在一行
QUESTION:上加上用户的问题。 - 以一个开放的回答轮次结尾:最后一行是
ANSWER:,后面什么都没有,这样模型接下来就写答案。
编号很重要:正是它让模型(以及下一课)能引用某个说法来自哪个来源。准确的逃生出口那一行也很重要:下游代码会寻找那个精确的哨兵来检测拒绝,所以换个说法就会让一切都坏掉。
处理缺少上下文的情况:如果 retrieved_chunks 为空,你仍然要生成一个有效的提示词(指令、逃生出口那一行、一个空的上下文、问题和开放的回答轮次),这样模型就会正确地用哨兵来回复。实时的 LLM 调用不是这个练习的一部分;你构建的是它会收到的那个字符串。按 Run 打印一个有依据的提示词,并像模型那样读一读它。
写 assemble_prompt(query, retrieved_chunks),返回完整的有依据的提示词字符串:一条只根据上下文回答的指令,原样的那一行 If the answer is not in the context, reply exactly: I do not know.,一个 CONTEXT: 部分,其中每个文本块按顺序编号为 [1]、[2]……并用三引号框起来,一行 QUESTION:,以及最后一个开放的 ANSWER: 轮次。空的文本块列表仍然要产生一个有效的提示词。
这个练习即将开放
完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。
这个浏览器屏蔽了 learn.floati.life 的 Cookie,所以你在这里完成的课程无法按顺序打开。请允许这个网站使用 Cookie,然后重新加载。