Tooldispatcher / router
Het model heeft je tool schemas gelezen en reageerde met een tool call: een geparkeerd object zoals {"name": "add", "arguments": {"a": 4, "b": 5}}. Nu moet je programma daadwerkelijk run de juiste functie uitvoeren. Dat is de taak van een dispatcher (of router): zoek de benoemde tool op, controleer of de argumenten precies zijn wat de functie verwacht, roep deze aan en geef het resultaat terug. Dit is het punt waarop de woorden van een LLM een echte bijwerking in je systeem worden, dus is dit ook waar je strikt moet zijn.
In een echte lus zit het direct na het parsen van de reply van het model:
call = parse_tool_call(model_reply) # {"name": ..., "arguments": {...}}
result = dispatch(call, TOOL_REGISTRY) # runs the matching Python function
# feed result back to the model as the tool's observationJe bouwt dispatch(call, registry), waar registry toolnamen koppelt aan Python functies. Het moet:
- Lees
call["name"]encall["arguments"](standaard argumenten voor{}). - Wijz / Wees een onbekend tool af. Als de naam niet in het register staat, gooi dan een
ValueError-> doe nooit stilletjes niets, en voer nooit een tool uit die het model heeft gehallucineerd. - Valideer de argumenten. Gebruik
inspect.signatureom de parameternamen van de functie op te halen en te bevestigen dat de gegeven argumentkeys exact overeenkomen -> een ontbrekend argument of een onverwacht extra argument moet een fout geven. - Invoke en return. Roep de functie aan met
func(**arguments)en return het resultaat.
import inspect
expected = set(inspect.signature(func).parameters)
if set(arguments) != expected:
raise ValueError("bad arguments")
return func(**arguments)Waarom zo streng op argumenten? Een tool call die draait met de verkeerde argumenten crasht diep in je functie of, erger nog, doet het verkeerde ding zonder melding. Luidruchtig falen aan de grens is het hele doel. Bouw het zo dat twee verschillende tools (bijvoorbeeld een calculator en een lookup) elk hun eigen resultaat teruggeven, een onbekende tool een fout geeft, en zowel een ontbrekend als een extra argument een fout geeft.
Schrijf dispatch(call, registry) waar call is {"name": ..., "arguments": {...}} en registry koppelt namen aan functies. Gooi een fout bij een onbekende toolnaam. Gebruik inspect.signature om te bevestigen dat elke required parameter aanwezig is en dat er geen onverwachte extra's zijn (een parameter met een standaardwaarde is optioneel, dus het weglaten is prima). inspect.signature(func).parameters koppelt elke naam aan een parameter object p; p.default is inspect.Parameter.empty is True precies wanneer de parameter geen standaardwaarde heeft, dus is deze vereist, roep dan func(**arguments) aan en geef het resultaat terug. Twee verschillende tools moeten elk hun eigen resultaat teruggeven.
Een probleem ontdekt in deze les? Meld het · Vraag naar deze les
Deze oefening opent binnenkort
Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.
Deze browser blokkeert cookies voor learn.floati.life, dus lessen die je hier hebt afgerond kunnen niet in de juiste volgorde worden geopend. Sta cookies toe voor deze site en laad de pagina opnieuw.