Kurrikulum Leson 117 van 250 · Roep 'n Regte LLM aan
Roep 'n Regte LLM aan

Die Tool-Call Rondtrip

Tool calling is 'n twee-stap dans. Jy stuur die gebruiker se boodskap saam met jou tool schemas; die model antwoord met 'n tool_use blok wat sê "call get_weather with {city: 'Paris'}"; jou kode hardloop daardie function en stuur die antwoord terug as 'n tool_result; dan gebruik die model dit om die finale antwoord te skryf. Hierdie les bou die middelstap -> die deel waar die model se versoek 'n regte Python call word en die resultaat gepak word vir die terugreis.

Hier is die regte loop (illustratief net -> ons roep nie die netwerk nie):

resp = client.messages.create(model="claude-opus-5-5", max_tokens=1024,
                              tools=TOOLS, messages=history)
# resp.stop_reason == "tool_use". The model may ask for SEVERAL tools at once:
# append its turn once, run every tool_use block, and send ALL the results
# back together in ONE user message.
history.append({"role": "assistant", "content": resp.content})
results = []
for block in resp.content:
    if block.type == "tool_use":
        result = TOOLS_BY_NAME[block.name](**block.input)
        results.append({"type": "tool_result", "tool_use_id": block.id,
                        "content": str(result)})
history.append({"role": "user", "content": results})
final = client.messages.create(model="claude-opus-5-5", max_tokens=1024,
                               tools=TOOLS, messages=history)

Die nie-onderhandelbare besonderhede: jy roep die funksie wat die model benoem met die argumente wat dit gee, jy echo die tool_use_id terug in die tool_result sodat die model elke antwoord by sy versoek kan pas, en wanneer een beurt vir verskeie gereedskap vra, gee jy elke resultaat in 'n enkele user boodskap terug (om dit oor boodskappe te verdeel leer die model om op te hou om gelyktydig te vra). In hierdie les hanteer jy die eenvoudigste geval, een tool call; les 4 hanteer verskeie. Ons modelleer die response as 'n plain dict sodat dit offline hardloop:

{"content": [{"type": "tool_use", "id": "toolu_1",
              "name": "get_weather", "input": {"city": "Paris"}}],
 "stop_reason": "tool_use"}

Jy bou run_tool_call(resp, tools), waar tools 'n hulpbronnaam na 'n Python-funksie omskakel. Dit moet:

  • Vind die eerste blok in resp["content"] waarvan die type is "tool_use".
  • Soek tools[name] op en roep dit met die blok se input as keyword arguments: tools[name](**block["input"]). As die naam nie in tools is nie, gooi 'n (KeyError of ValueError) op -> moenie ooit 'n tool hardloop wat die model gehallusineer het nie.
  • Gee die opvolg-gebruikersboodskap wat die resultaat terugbring terug:
{"role": "user",
 "content": [{"type": "tool_result",
              "tool_use_id": <the block's id>,
              "content": str(result)}]}

Stringify die resultaat met str(result) -> die tool_result inhoud beweeg as teks. Bou dit sodat twee verskillende tool calls (verskillende name en input) twee verskillende tool_result boodskappe produseer, die oorspronklike tool_use_id word teruggegooi, en 'n onbekende tool name veroorsaak 'n error.

Jou beurt

Skryf run_tool_call(resp, tools). Vind die eerste {"type": "tool_use", "id", "name", "input"} blok in resp["content"], roep tools[name](**input) aan, en gee die opvolgmediese {"role": "user", "content": [{"type": "tool_result", "tool_use_id": <id>, "content": str(result)}]} terug. Gooi 'n fout op 'n tool naam wat nie in tools is nie.

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.