Programma Lezione 117 di 250 · Chiamare un vero LLM
Chiamare un vero LLM

Il giro di andata e ritorno di una chiamata a uno strumento

La chiamata agli strumenti è una danza in due turni. Mandi il messaggio dell'utente insieme agli schemi dei tuoi strumenti; il modello risponde con un blocco tool_use che dice "chiama get_weather con {city: 'Paris'}"; il tuo codice esegue quella funzione e rimanda la risposta come tool_result; poi il modello la usa per scrivere la risposta finale. Questa lezione costruisce il passo di mezzo -> la parte in cui la richiesta del modello diventa una vera chiamata Python e il risultato viene impacchettato per il ritorno.

Ecco il vero ciclo (solo illustrativo -> non chiamiamo la rete):

resp = client.messages.create(model="claude-opus-5-5", max_tokens=1024,
                              tools=TOOLS, messages=history)
# resp.stop_reason == "tool_use". The model may ask for SEVERAL tools at once:
# append its turn once, run every tool_use block, and send ALL the results
# back together in ONE user message.
history.append({"role": "assistant", "content": resp.content})
results = []
for block in resp.content:
    if block.type == "tool_use":
        result = TOOLS_BY_NAME[block.name](**block.input)
        results.append({"type": "tool_result", "tool_use_id": block.id,
                        "content": str(result)})
history.append({"role": "user", "content": results})
final = client.messages.create(model="claude-opus-5-5", max_tokens=1024,
                               tools=TOOLS, messages=history)

I dettagli non negoziabili: chiami la funzione che il modello ha nominato con gli argomenti che ha dato, rimandi il suo tool_use_id nel tool_result così il modello può abbinare ogni risposta alla sua richiesta, e quando un turno chiede più strumenti restituisci tutti i risultati in un solo messaggio utente (dividerli su più messaggi insegna al modello a smettere di chiedere in parallelo). In questa lezione gestisci il caso più semplice, una sola chiamata; la lezione 4 ne gestisce diverse. Rappresentiamo la risposta come un semplice dict così gira offline:

{"content": [{"type": "tool_use", "id": "toolu_1",
              "name": "get_weather", "input": {"city": "Paris"}}],
 "stop_reason": "tool_use"}

Stai costruendo run_tool_call(resp, tools), dove tools associa al nome di uno strumento una funzione Python. Deve:

  • Trovare il primo blocco in resp["content"] il cui type è "tool_use".
  • Cercare tools[name] e chiamarla con l'input del blocco come argomenti per nome: tools[name](**block["input"]). Se il nome non è in tools, solleva un errore (un KeyError o un ValueError) -> non eseguire mai uno strumento che il modello si è inventato.
  • Restituire il messaggio utente di seguito che riporta indietro il risultato:
{"role": "user",
 "content": [{"type": "tool_result",
              "tool_use_id": <the block's id>,
              "content": str(result)}]}

Trasforma il risultato in stringa con str(result) -> il contenuto di tool_result viaggia come testo. Costruiscilo in modo che due chiamate diverse (nome e input diversi) producano due messaggi tool_result diversi, che il tool_use_id originale venga rimandato indietro, e che un nome di strumento sconosciuto sollevi un errore.

Tocca a te

Scrivi run_tool_call(resp, tools). Trova il primo blocco {"type": "tool_use", "id", "name", "input"} in resp["content"], chiama tools[name](**input), e restituisci il messaggio di seguito {"role": "user", "content": [{"type": "tool_result", "tool_use_id": <id>, "content": str(result)}]}. Solleva un errore per un nome di strumento che non è in tools.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.