Programma Lezione 141 di 250 · Output strutturati e chiamate a funzioni/strumenti
Output strutturati e chiamate a funzioni/strumenti

Smistatore / instradatore di strumenti

Il modello ha letto gli schemi dei tuoi strumenti e ha risposto con una chiamata: un oggetto già letto come {"name": "add", "arguments": {"a": 4, "b": 5}}. Ora il tuo programma deve davvero eseguire la funzione giusta. È il lavoro di uno smistatore (dispatcher, o router): cerca lo strumento nominato, controlla che gli argomenti siano esattamente quelli che la funzione si aspetta, la invoca, e restituisce il risultato. Questa è la linea in cui le parole di un LLM diventano un vero effetto nel tuo sistema, quindi è anche il punto in cui devi essere severo.

In un vero ciclo sta subito dopo la lettura della risposta del modello:

call = parse_tool_call(model_reply)        # {"name": ..., "arguments": {...}}
result = dispatch(call, TOOL_REGISTRY)     # runs the matching Python function
# feed result back to the model as the tool's observation

Stai costruendo dispatch(call, registry), dove registry associa i nomi degli strumenti a funzioni Python. Deve:

  • Leggere call["name"] e call["arguments"] (con argomenti di default a {}).
  • Rifiutare uno strumento sconosciuto. Se il nome non è nel registro, solleva un ValueError -> non limitarti a non fare niente in silenzio, e non eseguire mai uno strumento che il modello si è inventato.
  • Validare gli argomenti. Usa inspect.signature per ottenere i nomi dei parametri della funzione e conferma che le chiavi degli argomenti forniti corrispondano esattamente -> un argomento mancante o uno in più inatteso deve sollevare un errore.
  • Invocare e restituire. Chiama la funzione con func(**arguments) e restituisci il suo risultato.
import inspect
expected = set(inspect.signature(func).parameters)
if set(arguments) != expected:
    raise ValueError("bad arguments")
return func(**arguments)

Perché così severi sugli argomenti? Una chiamata a uno strumento che gira con gli argomenti sbagliati o va in crash in profondità dentro la tua funzione o, peggio, fa in silenzio la cosa sbagliata. Fallire ad alta voce al confine è proprio il punto. Costruiscilo in modo che due strumenti diversi (per esempio una calcolatrice e una ricerca) restituiscano ciascuno il proprio risultato, che uno strumento sconosciuto sollevi un errore, e che sia un argomento mancante sia uno in più sollevino un errore.

Tocca a te

Scrivi dispatch(call, registry) dove call è {"name": ..., "arguments": {...}} e registry associa nomi a funzioni. Solleva un errore per un nome di strumento sconosciuto. Usa inspect.signature per confermare che ogni parametro obbligatorio sia presente e che non ci siano extra inattesi (un parametro con un default è facoltativo, quindi ometterlo va bene). inspect.signature(func).parameters associa ogni nome a un oggetto parametro p; p.default is inspect.Parameter.empty è True esattamente quando il parametro non ha un default, quindi è obbligatorio, poi chiama func(**arguments) e restituisci il risultato. Due strumenti distinti devono restituire ciascuno il proprio risultato.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.