修复格式错误的模型 JSON
模型并不是完美的 JSON 生成器。即使在 JSON 模式下,它们也会把输出包在 ```json 围栏里,加一段话多的开场白("Sure! Here is the data:"),留一个末尾的逗号,或者用单引号。单纯的 json.loads 遇到这些全都会抛出异常,而在生产环境里那就是一次失败的请求。一个小小的修复步骤能便宜地挽回其中大部分,然后你才放弃并重新提示模型。
一条稳健的路径的形状是这样的:
text = call_model(prompt) # may be fenced / prose-wrapped / sloppy
try:
data = json.loads(text)
except ValueError:
data = repair_json(text) # one cheap repair attempt before re-prompting你要构建 repair_json(text)。按顺序走过这些步骤,一旦 json.loads 成功就停下:
- 去掉代码围栏。如果整个东西被包在
```(可选地是```json)里,就只保留里面的内容。一个像^```[a-zA-Z]*\s*(.*?)\s*```$这样带re.DOTALL的正则表达式就能做到。 - 切掉周围的文字。找到第一个
{或[和与之匹配的最后一个}或],只切出那一段。这样就去掉了前面的 "Sure! Here is..." 和后面的任何闲聊。 - 原样尝试。许多字符串此时已经有效了:提前返回。
- 先修最温和的损坏:用
re.sub(r",(\s*[}\]])", r"\1", s)删掉末尾的逗号,然后再json.loads。 - 最后手段:把单引号转成双引号,再试一次。
- 如果还是解析不了,就抛出一个
ValueError:永远不要返回垃圾。一个无法修复的字符串是需要重新提示的信号,而不是去猜的信号。
为什么引号替换放在最后:它也会改写字符串值里面的撇号,所以如果你先做替换,{"note": "it's fine",} 就会坏掉,而只删掉逗号就能修好它。模型的输出经常包含撇号(像 O'Brien 这样的名字,像 it's 这样的词),所以要先尝试那些不会损坏值的修复,再尝试那个会损坏值的。即便如此,这也只是第一道防线;当一个真实的回复解析不了时,重新提示(或者使用把模型约束为有效 JSON 的结构化输出)胜过更聪明的修复。确保干净的 JSON 原样通过,true/false 保留为 Python 的 True/False,而一个没有可挽回 JSON 的字符串会抛出异常。
写 repair_json(text),它去掉 ```/```json 代码围栏,切掉第一个 {/[ 之前和与之匹配的最后一个 }/] 之后的任何文字,然后尝试 json.loads;失败时删掉末尾的逗号再试;只有仍然失败时,才再把单引号转成双引号并再试一次(引号替换放在最后,因为它也会改写值里面的撇号);如果还是解析不了,就抛出 ValueError。干净的 JSON 必须原样通过。
这个练习即将开放
完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。
这个浏览器屏蔽了 learn.floati.life 的 Cookie,所以你在这里完成的课程无法按顺序打开。请允许这个网站使用 Cookie,然后重新加载。