被模型包在文字里的 JSON
为什么重要 不用结构化输出、直接要模型给 JSON,大多数时候你会拿到 JSON,但它周围经常带着一句友好的话、一个代码围栏,或者干脆什么能用的都没有。对原始文本直接调用 json.loads 的代码第一天就会坏掉。
对"把这些字段作为 JSON 给我"的五条回复,每一条都是真实模型会产生的模式:
- 干净的 JSON;
- 放在
```json围栏里、前后都有句子的 JSON; - 夹在一句话中间的 JSON;
- 一个在词元上限处被截断的列表(
stop_reason是"max_tokens"),所以 JSON 是坏的; - 根本没有 JSON:模型解释了它为什么做不到。
稳健的读取方式:先检查 stop_reason(被截断的回复即使恰好能解析也不能信任),然后取出文本,截取从第一个 { 或 [ 到与之匹配的最后一个 } 或 ] 的那一段,再解析它。仍然失败的就是要报告的错误,永远不要去猜。(在生产环境里,结构化输出会约束模型只能输出有效的 JSON,免掉了大部分这些麻烦;但你仍然要检查 stop_reason。)
关于这些回复:它们是模拟的。每一条都是为本课程写的,形状和 Claude Messages API 返回的完全一样(内容块、stop_reason、usage),而且每一条都照搬了真实模型会做的某件事。它们不是对在线模型的录制,所以具体措辞是我们写的;但形状和问题都是你的代码会遇到的真实情况。
写 parse_json_reply(reply)。如果 stop_reason 是 "max_tokens",就抛出 ValueError。否则连接文本块,从第一个 { 或 [(哪个先出现就用哪个)切到最后一个匹配的 } 或 ],并返回对这一段调用 json.loads 的结果。没有 JSON 或者无法解析时抛出 ValueError。保持起始代码里的 REPLIES 不变:检查会读取它。
这个练习即将开放
完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。
这个浏览器屏蔽了 learn.floati.life 的 Cookie,所以你在这里完成的课程无法按顺序打开。请允许这个网站使用 Cookie,然后重新加载。