Smistatore / instradatore di strumenti
Il modello ha letto gli schemi dei tuoi strumenti e ha risposto con una chiamata: un oggetto già letto come {"name": "add", "arguments": {"a": 4, "b": 5}}. Ora il tuo programma deve davvero eseguire la funzione giusta. È il lavoro di uno smistatore (dispatcher, o router): cerca lo strumento nominato, controlla che gli argomenti siano esattamente quelli che la funzione si aspetta, la invoca, e restituisce il risultato. Questa è la linea in cui le parole di un LLM diventano un vero effetto nel tuo sistema, quindi è anche il punto in cui devi essere severo.
In un vero ciclo sta subito dopo la lettura della risposta del modello:
call = parse_tool_call(model_reply) # {"name": ..., "arguments": {...}}
result = dispatch(call, TOOL_REGISTRY) # runs the matching Python function
# feed result back to the model as the tool's observationStai costruendo dispatch(call, registry), dove registry associa i nomi degli strumenti a funzioni Python. Deve:
- Leggere
call["name"]ecall["arguments"](con argomenti di default a{}). - Rifiutare uno strumento sconosciuto. Se il nome non è nel registro, solleva un
ValueError-> non limitarti a non fare niente in silenzio, e non eseguire mai uno strumento che il modello si è inventato. - Validare gli argomenti. Usa
inspect.signatureper ottenere i nomi dei parametri della funzione e conferma che le chiavi degli argomenti forniti corrispondano esattamente -> un argomento mancante o uno in più inatteso deve sollevare un errore. - Invocare e restituire. Chiama la funzione con
func(**arguments)e restituisci il suo risultato.
import inspect
expected = set(inspect.signature(func).parameters)
if set(arguments) != expected:
raise ValueError("bad arguments")
return func(**arguments)Perché così severi sugli argomenti? Una chiamata a uno strumento che gira con gli argomenti sbagliati o va in crash in profondità dentro la tua funzione o, peggio, fa in silenzio la cosa sbagliata. Fallire ad alta voce al confine è proprio il punto. Costruiscilo in modo che due strumenti diversi (per esempio una calcolatrice e una ricerca) restituiscano ciascuno il proprio risultato, che uno strumento sconosciuto sollevi un errore, e che sia un argomento mancante sia uno in più sollevino un errore.
Scrivi dispatch(call, registry) dove call è {"name": ..., "arguments": {...}} e registry associa nomi a funzioni. Solleva un errore per un nome di strumento sconosciuto. Usa inspect.signature per confermare che ogni parametro obbligatorio sia presente e che non ci siano extra inattesi (un parametro con un default è facoltativo, quindi ometterlo va bene). inspect.signature(func).parameters associa ogni nome a un oggetto parametro p; p.default is inspect.Parameter.empty è True esattamente quando il parametro non ha un default, quindi è obbligatorio, poi chiama func(**arguments) e restituisci il risultato. Due strumenti distinti devono restituire ciascuno il proprio risultato.
Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione
Questo esercizio si apre presto
Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.
Questo browser blocca i cookie per learn.floati.life, quindi le lezioni che hai finito qui non si possono aprire in ordine. Consenti i cookie per questo sito e ricarica.