Conteúdo do curso Lição 141 de 250 · Saídas estruturadas e chamada de funções/ferramentas
Saídas estruturadas e chamada de funções/ferramentas

Despachante / roteador de ferramentas

O modelo leu seus schemas de ferramentas e respondeu com uma chamada de ferramenta: um objeto interpretado como {"name": "add", "arguments": {"a": 4, "b": 5}}. Agora seu programa precisa realmente rodar a função certa. Esse é o trabalho de um despachante (ou roteador): procurar a ferramenta nomeada, verificar se os argumentos são exatamente o que a função espera, chamá-la e retornar o resultado. Esta é a linha em que as palavras de um LLM viram um efeito real no seu sistema, então também é onde você precisa ser rigoroso.

Em um loop real, ele fica logo depois de interpretar a resposta do modelo:

call = parse_tool_call(model_reply)        # {"name": ..., "arguments": {...}}
result = dispatch(call, TOOL_REGISTRY)     # runs the matching Python function
# feed result back to the model as the tool's observation

Você vai construir dispatch(call, registry), em que registry associa nomes de ferramentas a funções Python. Ele precisa:

  • Ler call["name"] e call["arguments"] (com {} como padrão para os argumentos).
  • Rejeitar uma ferramenta desconhecida. Se o nome não estiver no registry, levante um ValueError -> nunca deixe de fazer algo em silêncio e nunca rode uma ferramenta que o modelo alucinou.
  • Validar os argumentos. Use inspect.signature para pegar os nomes dos parâmetros da função e confirme que as chaves dos argumentos passados batem exatamente -> um argumento faltando ou um extra inesperado precisa levantar exceção.
  • Chamar e retornar. Chame a função com func(**arguments) e retorne o resultado.
import inspect
expected = set(inspect.signature(func).parameters)
if set(arguments) != expected:
    raise ValueError("bad arguments")
return func(**arguments)

Por que tanto rigor com os argumentos? Uma chamada de ferramenta que roda com os argumentos errados ou quebra lá dentro da sua função ou, pior, faz a coisa errada em silêncio. Falhar alto na fronteira é o ponto todo. Construa de forma que duas ferramentas diferentes (digamos uma calculadora e uma consulta) retornem cada uma seu próprio resultado, que uma ferramenta desconhecida levante exceção e que tanto um argumento faltando quanto um extra levantem exceção.

Sua vez

Escreva dispatch(call, registry), em que call é {"name": ..., "arguments": {...}} e registry associa nomes a funções. Levante exceção para um nome de ferramenta desconhecido. Use inspect.signature para confirmar que todo parâmetro obrigatório está presente e que não há extras inesperados (um parâmetro com padrão é opcional, então omiti-lo não tem problema). inspect.signature(func).parameters associa cada nome a um objeto de parâmetro p; p.default is inspect.Parameter.empty é True exatamente quando o parâmetro não tem padrão, então ele é obrigatório; depois chame func(**arguments) e retorne o resultado. Duas ferramentas distintas precisam retornar cada uma seu próprio resultado.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.