工具分派器 / 路由器
模型读了你的工具 schema,并回复了一次工具调用:一个像 {"name": "add", "arguments": {"a": 4, "b": 5}} 这样解析好的对象。现在你的程序必须真正运行正确的函数。这就是分派器(或路由器)的工作:查找被点名的工具,检查参数正好是函数期望的,调用它,并返回结果。这一行是 LLM 的话语变成你系统里真实副作用的地方,所以也是你必须严格的地方。
在真实的循环里,它就紧跟在解析模型回复之后:
call = parse_tool_call(model_reply) # {"name": ..., "arguments": {...}}
result = dispatch(call, TOOL_REGISTRY) # runs the matching Python function
# feed result back to the model as the tool's observation你要构建 dispatch(call, registry),其中 registry 把工具名映射到 Python 函数。它必须:
- 读取
call["name"]和call["arguments"](arguments 默认为{})。 - 拒绝未知的工具。如果名字不在注册表里,就抛出一个
ValueError:永远不要悄悄地什么都不做,也永远不要运行一个模型幻想出来的工具。 - 验证参数。用
inspect.signature取得函数的参数名,确认提供的参数键完全一致:缺少一个参数或多出一个意外的参数都必须抛出异常。 - 调用并返回。用
func(**arguments)调用函数并返回它的结果。
import inspect
expected = set(inspect.signature(func).parameters)
if set(arguments) != expected:
raise ValueError("bad arguments")
return func(**arguments)为什么对参数这么严格?一次用错误参数运行的工具调用,要么在你的函数深处崩溃,要么更糟,悄悄地做错事。在边界上大声失败正是关键所在。把它构建成这样:两个不同的工具(比如一个计算器和一个查找工具)各自返回自己的结果,未知的工具抛出异常,缺少参数和多出参数也都抛出异常。
写 dispatch(call, registry),其中 call 是 {"name": ..., "arguments": {...}},registry 把名字映射到函数。遇到未知的工具名时抛出异常。用 inspect.signature 确认每个必需参数都存在,并且没有意外多出的参数(有默认值的参数是可选的,所以省略它没关系)。inspect.signature(func).parameters 把每个名字映射到一个参数对象 p;当且仅当参数没有默认值时,p.default is inspect.Parameter.empty 为 True,所以它是必需的,然后调用 func(**arguments) 并返回结果。两个不同的工具必须各自返回自己的结果。
这个练习即将开放
完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。
这个浏览器屏蔽了 learn.floati.life 的 Cookie,所以你在这里完成的课程无法按顺序打开。请允许这个网站使用 Cookie,然后重新加载。