Lehrplan Lektion 117 von 250 · Ein echtes LLM aufrufen
Ein echtes LLM aufrufen

Der Tool-Call Round Trip

Tool calling ist ein Tanz aus zwei Schritten. Du sendest die Nachricht des Nutzers zusammen mit deinen tool schemas; das Modell antwortet mit einem tool_use Block, der sagt "call get_weather with {city: 'Paris'}"; dein Code führt diese function aus und sendet die Antwort als tool_result zurück; dann nutzt das Modell sie, um die finale Antwort zu schreiben. Diese Lektion baut den mittleren Schritt auf -> den Teil, wo die Anfrage des Modells zu einem echten Python call wird und das Ergebnis für den Rückweg verpackt wird.

Hier ist die echte Schleife (nur illustrativ -> wir rufen das Netzwerk nicht auf):

resp = client.messages.create(model="claude-opus-5-5", max_tokens=1024,
                              tools=TOOLS, messages=history)
# resp.stop_reason == "tool_use". The model may ask for SEVERAL tools at once:
# append its turn once, run every tool_use block, and send ALL the results
# back together in ONE user message.
history.append({"role": "assistant", "content": resp.content})
results = []
for block in resp.content:
    if block.type == "tool_use":
        result = TOOLS_BY_NAME[block.name](**block.input)
        results.append({"type": "tool_result", "tool_use_id": block.id,
                        "content": str(result)})
history.append({"role": "user", "content": results})
final = client.messages.create(model="claude-opus-5-5", max_tokens=1024,
                               tools=TOOLS, messages=history)

Die nicht verhandelbaren Details: du rufst die function des models mit den Argumenten auf, die es gegeben hat, du echo seine tool_use_id in der tool_result zurück, damit das model jede Antwort seiner Anfrage zuordnen kann, und wenn ein Turn nach mehreren tools fragt, gibst du jedes Ergebnis in einer einzigen user message zurück (das Aufteilen über mehrere messages lehrt das model, nicht parallel zu fragen). In dieser Lektion bearbeitest du den einfachsten Fall, einen tool call; Lektion 4 behandelt mehrere. Wir modellieren die response als ein einfaches dictionary, damit es offline läuft:

{"content": [{"type": "tool_use", "id": "toolu_1",
              "name": "get_weather", "input": {"city": "Paris"}}],
 "stop_reason": "tool_use"}

Du baust run_tool_call(resp, tools), wo tools einen Tool-Namen einer Python-Funktion zuordnet. Es muss:

  • Finde den ersten Block in resp["content"], dessen type "tool_use" ist.
  • Schau dir tools[name] an und rufe es mit dem input des Blocks als Keyword-Argumente auf: tools[name](**block["input"]). Wenn der Name nicht in tools ist, wirf eine (eine KeyError oder ValueError) -> führe niemals ein Tool aus, das das Modell halluziniert hat.
  • Gib die Folgenachricht des Benutzers zurück, die das Ergebnis zurückträgt:
{"role": "user",
 "content": [{"type": "tool_result",
              "tool_use_id": <the block's id>,
              "content": str(result)}]}

Stringify das Ergebnis mit str(result) -> der tool_result Inhalt wird als Text übertragen. Baue es so, dass zwei verschiedene tool calls (unterschiedlicher name und input) zwei verschiedene tool_result messages erzeugen, der ursprüngliche tool_use_id wird zurückgegeben, und ein unbekannter tool name führt zu einem Fehler.

Du bist dran

Schreibe run_tool_call(resp, tools). Finde den ersten {"type": "tool_use", "id", "name", "input"} Block in resp["content"], rufe tools[name](**input) auf und gib die Folgenachricht {"role": "user", "content": [{"type": "tool_result", "tool_use_id": <id>, "content": str(result)}]} zurück. Fehler auslösen bei einem Toolnamen, der nicht in tools ist.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.