Kurrikulum Leson 141 van 250 · Gestruktureerde Uitsettes & Funksie/Gereedskap Roeping
Gestruktureerde Uitsettes & Funksie/Gereedskap Roeping

Gereedskap-uitvoerder / Roeter

Die model het jou tool schemas gelees en geantwoord met 'n tool call: 'n geparsde objek soos {"name": "add", "arguments": {"a": 4, "b": 5}}. Nou moet jou program werklik run die regte funksie. Dit is die werk van 'n dispatcher (of router): soek die genaamde tool op, kyk of die argumente presies is wat die funksie verwag, roep dit op, en gee die resultaat terug. Dit is die lyn waar 'n LLM se woorde 'n werklike sy-effek in jou stelsel word, so dit is ook waar jy streng moet wees.

In 'n regte loop sit dit net na die model se antwoord gepars het:

call = parse_tool_call(model_reply)        # {"name": ..., "arguments": {...}}
result = dispatch(call, TOOL_REGISTRY)     # runs the matching Python function
# feed result back to the model as the tool's observation

Jy bou dispatch(call, registry), waar registry hulde name na Python funksies omskakel. Dit moet:

  • Lees call["name"] en call["arguments"] (standaardargumente vir {}).
  • Verwerp 'n onbekende tool. As die naam nie in die register is nie, gooi 'n ValueError -> moenie nooit stil niks doen nie, en moenie 'n tool wat die model gehallusineer het uitvoer nie.
  • Valideer die argumente. Gebruik inspect.signature om die funksie se parametername te kry en bevestig dat die verskafde argumentsleutels presies ooreenstem -> 'n ontbrekende argument of 'n onverwagse ekstra een moet 'n fout wek.
  • Roep en gee terug. Roep die funksie met func(**arguments) en gee die resultaat terug.
import inspect
expected = set(inspect.signature(func).parameters)
if set(arguments) != expected:
    raise ValueError("bad arguments")
return func(**arguments)

Hoekom is jy so streng oor argumente? 'n Tool call wat met die verkeerde argumente hardloop, stort of diep binne-in jou function of doen iets verkeerd sonder om op te lei. Om hard te faal by die grens is die hele punt. Bou dit sodat twee verskillende tools (sê 'n calculator en 'n lookup) elk hul eie resultaat teruggee, 'n unknown tool raise, en beide 'n missing en 'n extra argument raise.

Jou beurt

Skryf dispatch(call, registry) waar call is {"name": ..., "arguments": {...}} en registry mapeer name na functions. Gooi 'n fout op 'n onbekende tool name. Gebruik inspect.signature om te bevestig dat elke required parameter teenwoordig is en daar geen onverwagte ekstra's is nie ('n parameter met 'n default is opsioneel, so om dit weg te laat is reg). inspect.signature(func).parameters mapeer elke name na 'n parameter object p; p.default is inspect.Parameter.empty is True presies wanneer die parameter geen default het, so dit is verpligtend, dan roep func(**arguments) aan en gee die resultaat terug. Twee aparte tools moet elk hul eie resultaat teruggee.

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.