课程大纲 第 247 课,共 250 课 · 处理模型的回复
处理模型的回复

被截断、被拒绝,还是超出范围

为什么重要 一个给用户显示半句话或一个空气泡的客服机器人,看起来就像坏了。在显示任何回复之前,先判断它是哪一种回复。

这里的应用是一个银行助手,它的系统提示词说:只回答关于账户和银行卡的问题,其他任何问题都恰好回复 OUT_OF_SCOPE。五条回复:

  • 一个正常的答案;
  • 按要求恰好回复的 OUT_OF_SCOPE;
  • 同一个信号写得比较随意(Out_of_scope. 带一个换行):模型几乎总是遵守"恰好回复",所以要带点容差去匹配它(忽略大小写、空格和末尾的句点);
  • 一个在词元上限处被截断的答案;
  • 一个拒绝:stop_reason 是 "refusal",内容为空,stop_details 字典可能会说明原因。

每一种都需要不同的界面:显示答案,显示"我只能帮你处理银行业务",让模型继续或用更高的上限重试,或者显示一个礼貌的拒绝。

关于这些回复:它们是模拟的。每一条都是为本课程写的,形状和 Claude Messages API 返回的完全一样(内容块、stop_reason、usage),而且每一条都照搬了真实模型会做的某件事。它们不是对在线模型的录制,所以具体措辞是我们写的;但形状和问题都是你的代码会遇到的真实情况。

轮到你了

写 classify_reply(reply),返回以下之一:"refused"(stop_reason 是 "refusal")、"cut_off"(stop_reason 是 "max_tokens")、"out_of_scope"(文本去掉两端空格和末尾的 . 后,忽略大小写等于 OUT_OF_SCOPE)、"empty"(完全没有文本)或 "answer"。按这个顺序检查。保持起始代码里的 REPLIES 不变:检查会读取它。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。