课程大纲 第 141 课,共 250 课 · 结构化输出与函数/工具调用
结构化输出与函数/工具调用

工具分派器 / 路由器

模型读了你的工具 schema,并回复了一次工具调用:一个像 {"name": "add", "arguments": {"a": 4, "b": 5}} 这样解析好的对象。现在你的程序必须真正运行正确的函数。这就是分派器(或路由器)的工作:查找被点名的工具,检查参数正好是函数期望的,调用它,并返回结果。这一行是 LLM 的话语变成你系统里真实副作用的地方,所以也是你必须严格的地方。

在真实的循环里,它就紧跟在解析模型回复之后:

call = parse_tool_call(model_reply)        # {"name": ..., "arguments": {...}}
result = dispatch(call, TOOL_REGISTRY)     # runs the matching Python function
# feed result back to the model as the tool's observation

你要构建 dispatch(call, registry),其中 registry 把工具名映射到 Python 函数。它必须:

  • 读取 call["name"] 和 call["arguments"](arguments 默认为 {})。
  • 拒绝未知的工具。如果名字不在注册表里,就抛出一个 ValueError:永远不要悄悄地什么都不做,也永远不要运行一个模型幻想出来的工具。
  • 验证参数。用 inspect.signature 取得函数的参数名,确认提供的参数键完全一致:缺少一个参数或多出一个意外的参数都必须抛出异常。
  • 调用并返回。用 func(**arguments) 调用函数并返回它的结果。
import inspect
expected = set(inspect.signature(func).parameters)
if set(arguments) != expected:
    raise ValueError("bad arguments")
return func(**arguments)

为什么对参数这么严格?一次用错误参数运行的工具调用,要么在你的函数深处崩溃,要么更糟,悄悄地做错事。在边界上大声失败正是关键所在。把它构建成这样:两个不同的工具(比如一个计算器和一个查找工具)各自返回自己的结果,未知的工具抛出异常,缺少参数和多出参数也都抛出异常。

轮到你了

写 dispatch(call, registry),其中 call 是 {"name": ..., "arguments": {...}},registry 把名字映射到函数。遇到未知的工具名时抛出异常。用 inspect.signature 确认每个必需参数都存在,并且没有意外多出的参数(有默认值的参数是可选的,所以省略它没关系)。inspect.signature(func).parameters 把每个名字映射到一个参数对象 p;当且仅当参数没有默认值时,p.default is inspect.Parameter.empty 为 True,所以它是必需的,然后调用 func(**arguments) 并返回结果。两个不同的工具必须各自返回自己的结果。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。