课程大纲 第 214 课,共 250 课 · 项目:客服副驾驶
项目:客服副驾驶

检索 + 构建有依据的提示词

检索能用了:你能找到正确的文章。接下来这一步,让 RAG 变得值得信赖,而不是一个自信的骗子:依据。你把检索到的文本交给语言模型,并指示它只根据这些文本回答,在答案不在里面时就明说。模型从来看不到你的原始文档;它看到的是你组装的提示词。所以提示词就是产品。这一课构建这个提示词。

幻觉的胜负就在这里。一个编造出退款期限的客服机器人比没用还糟:它是一种责任风险。解决办法是一个有纪律的提示词,包含三部分:用围栏框起来并编号的检索文本块,让模型能引用它们;用户的问题;以及一个明确的逃生出口,用于上下文里不包含答案的情况。

写一个函数:

assemble_prompt(query, retrieved_chunks)  # -> the full prompt string

它必须按顺序做到:

  • 说明规则:助手只使用下面的上下文来回答。
  • 原样、一字不差地包含这一行:If the answer is not in the context, reply exactly: I do not know.
  • 开一个 CONTEXT: 部分,然后编号并用围栏框起每个文本块,比如 [1] 后面跟着放在三引号之间的文本块内容,然后是 [2],依此类推,按给定的顺序。
  • 在一行 QUESTION: 上加上用户的问题。
  • 以一个开放的回答轮次结尾:最后一行是 ANSWER:,后面什么都没有,这样模型接下来就写答案。

编号很重要:正是它让模型(以及下一课)能引用某个说法来自哪个来源。准确的逃生出口那一行也很重要:下游代码会寻找那个精确的哨兵来检测拒绝,所以换个说法就会让一切都坏掉。

处理缺少上下文的情况:如果 retrieved_chunks 为空,你仍然要生成一个有效的提示词(指令、逃生出口那一行、一个空的上下文、问题和开放的回答轮次),这样模型就会正确地用哨兵来回复。实时的 LLM 调用不是这个练习的一部分;你构建的是它会收到的那个字符串。按 Run 打印一个有依据的提示词,并像模型那样读一读它。

轮到你了

写 assemble_prompt(query, retrieved_chunks),返回完整的有依据的提示词字符串:一条只根据上下文回答的指令,原样的那一行 If the answer is not in the context, reply exactly: I do not know.,一个 CONTEXT: 部分,其中每个文本块按顺序编号为 [1]、[2]……并用三引号框起来,一行 QUESTION:,以及最后一个开放的 ANSWER: 轮次。空的文本块列表仍然要产生一个有效的提示词。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。