并行工具调用与 is_error
上一课处理了一次工具调用。但现代模型会一次要求好几个:并行工具调用默认开启,所以一个助手轮次可以包含三四个 tool_use 块("查天气,并且查订单,并且查库存")。如果你的代码只运行第一个,模型就会一直等待永远不会来的结果,这一轮就卡住了。
这里的"并行"描述的是模型的请求,而不是你的执行:模型在一轮里要求了好几个工具。你完全可以一个接一个地运行它们,再把所有结果一起送回去,不需要线程或 async。
约定是精确的:运行每一个 tool_use 块,然后送回一条用户消息,它的 content 是一个由 tool_result 块组成的列表,每次调用一个,每个都回传它自己的 tool_use_id。
{"content": [
{"type": "tool_use", "id": "t1", "name": "get_weather", "input": {"city": "Paris"}},
{"type": "tool_use", "id": "t2", "name": "add", "input": {"a": 2, "b": 5}}],
"stop_reason": "tool_use"}第二个新想法是故障隔离。如果一个工具抛出异常,你不要让整个轮次崩溃、丢掉其他结果。你返回这个块的 tool_result,带上 "is_error": True,并以错误文本作为它的内容,这样模型能看到出了什么问题并恢复过来。一个幻想出来的工具名(不在你的注册表里)只是另一种错误:把它报告为 is_error,永远不要运行你没有注册的东西。
构建 run_tool_calls(resp, tools),返回那一条后续用户消息。成功时,tool_result 恰好有 type、tool_use_id 和 content(通过 str(...) 得到的结果);失败时它还要带上 "is_error": True。按 Run 回答一个包含两次调用的轮次。
写 run_tool_calls(resp, tools),运行 resp["content"] 里的每一个 tool_use 块(忽略其他类型的块),并返回一条用户消息 {"role": "user", "content": [ ...tool_result blocks... ]},按顺序每次调用一个结果。每个成功的结果是 {"type": "tool_result", "tool_use_id": <id>, "content": str(result)}。如果某个工具抛出异常,或者它的名字不在 tools 里,那么这个结果改为带上 "is_error": True,并以错误文本作为 content,而其他工具照样运行。
这个练习即将开放
完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。
这个浏览器屏蔽了 learn.floati.life 的 Cookie,所以你在这里完成的课程无法按顺序打开。请允许这个网站使用 Cookie,然后重新加载。