被截断、被拒绝,还是超出范围
为什么重要 一个给用户显示半句话或一个空气泡的客服机器人,看起来就像坏了。在显示任何回复之前,先判断它是哪一种回复。
这里的应用是一个银行助手,它的系统提示词说:只回答关于账户和银行卡的问题,其他任何问题都恰好回复 OUT_OF_SCOPE。五条回复:
- 一个正常的答案;
- 按要求恰好回复的
OUT_OF_SCOPE; - 同一个信号写得比较随意(
Out_of_scope.带一个换行):模型几乎总是遵守"恰好回复",所以要带点容差去匹配它(忽略大小写、空格和末尾的句点); - 一个在词元上限处被截断的答案;
- 一个拒绝:
stop_reason是"refusal",内容为空,stop_details字典可能会说明原因。
每一种都需要不同的界面:显示答案,显示"我只能帮你处理银行业务",让模型继续或用更高的上限重试,或者显示一个礼貌的拒绝。
关于这些回复:它们是模拟的。每一条都是为本课程写的,形状和 Claude Messages API 返回的完全一样(内容块、stop_reason、usage),而且每一条都照搬了真实模型会做的某件事。它们不是对在线模型的录制,所以具体措辞是我们写的;但形状和问题都是你的代码会遇到的真实情况。
写 classify_reply(reply),返回以下之一:"refused"(stop_reason 是 "refusal")、"cut_off"(stop_reason 是 "max_tokens")、"out_of_scope"(文本去掉两端空格和末尾的 . 后,忽略大小写等于 OUT_OF_SCOPE)、"empty"(完全没有文本)或 "answer"。按这个顺序检查。保持起始代码里的 REPLIES 不变:检查会读取它。
这个练习即将开放
完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。
这个浏览器屏蔽了 learn.floati.life 的 Cookie,所以你在这里完成的课程无法按顺序打开。请允许这个网站使用 Cookie,然后重新加载。