Despachante / roteador de ferramentas
O modelo leu seus schemas de ferramentas e respondeu com uma chamada de ferramenta: um objeto interpretado como {"name": "add", "arguments": {"a": 4, "b": 5}}. Agora seu programa precisa realmente rodar a função certa. Esse é o trabalho de um despachante (ou roteador): procurar a ferramenta nomeada, verificar se os argumentos são exatamente o que a função espera, chamá-la e retornar o resultado. Esta é a linha em que as palavras de um LLM viram um efeito real no seu sistema, então também é onde você precisa ser rigoroso.
Em um loop real, ele fica logo depois de interpretar a resposta do modelo:
call = parse_tool_call(model_reply) # {"name": ..., "arguments": {...}}
result = dispatch(call, TOOL_REGISTRY) # runs the matching Python function
# feed result back to the model as the tool's observationVocê vai construir dispatch(call, registry), em que registry associa nomes de ferramentas a funções Python. Ele precisa:
- Ler
call["name"]ecall["arguments"](com{}como padrão para os argumentos). - Rejeitar uma ferramenta desconhecida. Se o nome não estiver no registry, levante um
ValueError-> nunca deixe de fazer algo em silêncio e nunca rode uma ferramenta que o modelo alucinou. - Validar os argumentos. Use
inspect.signaturepara pegar os nomes dos parâmetros da função e confirme que as chaves dos argumentos passados batem exatamente -> um argumento faltando ou um extra inesperado precisa levantar exceção. - Chamar e retornar. Chame a função com
func(**arguments)e retorne o resultado.
import inspect
expected = set(inspect.signature(func).parameters)
if set(arguments) != expected:
raise ValueError("bad arguments")
return func(**arguments)Por que tanto rigor com os argumentos? Uma chamada de ferramenta que roda com os argumentos errados ou quebra lá dentro da sua função ou, pior, faz a coisa errada em silêncio. Falhar alto na fronteira é o ponto todo. Construa de forma que duas ferramentas diferentes (digamos uma calculadora e uma consulta) retornem cada uma seu próprio resultado, que uma ferramenta desconhecida levante exceção e que tanto um argumento faltando quanto um extra levantem exceção.
Escreva dispatch(call, registry), em que call é {"name": ..., "arguments": {...}} e registry associa nomes a funções. Levante exceção para um nome de ferramenta desconhecido. Use inspect.signature para confirmar que todo parâmetro obrigatório está presente e que não há extras inesperados (um parâmetro com padrão é opcional, então omiti-lo não tem problema). inspect.signature(func).parameters associa cada nome a um objeto de parâmetro p; p.default is inspect.Parameter.empty é True exatamente quando o parâmetro não tem padrão, então ele é obrigatório; depois chame func(**arguments) e retorne o resultado. Duas ferramentas distintas precisam retornar cada uma seu próprio resultado.
Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição
Este exercício abre em breve
Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.
Este navegador está bloqueando cookies para learn.floati.life, então as lições que você terminou aqui não podem abrir em ordem. Permita cookies para este site e recarregue.