课程大纲 第 215 课,共 250 课 · 项目:客服副驾驶
项目:客服副驾驶

超出范围的拒绝、引用与个人信息

你的助手能检索,也能给出依据。但一个面对顾客的真正客服机器人需要防护措施,而这一课正是把一个演示变成你真的会部署的东西。三条防护,招聘经理三条都会找:

  • 拒绝超出范围的问题。如果知识库里没有什么和问题足够接近,就不要即兴发挥:返回拒绝的哨兵。这是 RAG 里最重要的一项安全行为。
  • 引用来源。当你确实回答时,说出支撑答案的是哪些文章 id,这样人可以去核实。
  • 遮盖个人信息。如果你要把用户的文本原样写到别处(日志、工单、提示词),先去掉其中的邮箱和电话号码。

再构建一次检索器(复用你第 1 课的 TF-IDF),并加上防护层:

answer_or_refuse(query, index)   # refuse, or answer WITH citations
redact_pii(text)                 # mask emails and phone numbers

answer_or_refuse(query, index) 把查询和知识库进行打分。如果最高的相似度低于一个阈值,这个问题就超出了范围:返回精确的哨兵 I do not know.。否则,返回一个引用了它所用来源 id 的非空答案字符串。评分器对真正的答案检查两件事:它不是哨兵,而且它说出了正确的文章 id(例如,密码问题的引用里包含 0)。格式化引用的一种干净方式是在末尾加上 (sources: [0]),但任何包含这个 id 的形式都可以。(这个综合项目把它写成 "I do not know.",而 RAG 模块用的是 "I don't know."。具体用哪几个词不重要;重要的是你的提示词和你的代码约定同一个固定的字符串,一字不差。)

怎样设置阈值:去掉停用词之后,一个真正离题的问题("法国的首都是哪里?")和任何文章都没有共同的实词,所以它最高的余弦相似度是 0.0。一个切题的问题得分会明显高于零。像 0.05 这样小的正阈值就能把它们干净地分开。

redact_pii(text) 把任何邮箱替换成 [EMAIL],把任何电话号码替换成 [PHONE],其他一切保持不变。两个正则表达式就能做到。邮箱大致是 name@host.tld;电话号码是一串 7 个或更多数字,中间可能夹着 + - ( ) space。无害的文本,包括像 "30 days" 这样的短数字,必须原样返回。按 Run,看一个带引用的切题答案、一个离题问题的拒绝,以及被遮盖的个人信息。

轮到你了

复用你的 TF-IDF 检索器,然后加上防护措施。answer_or_refuse(query, index) 在最高相似度低于一个小阈值时返回精确的哨兵 I do not know.;否则返回一个引用了所用来源文档 id 的非空答案。redact_pii(text) 把邮箱遮盖为 [EMAIL],把电话号码遮盖为 [PHONE],同时让无害的文本(包括像 "30 days" 这样的短数字)保持不变。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。