Programma Les 249 van 250 · Werken met Model Replies
Werken met Model Replies

Parallelle Tool Calls: Eén Round Trip

Waarom dit ertoe doet Stel de vraag "wat is het weer in Parijs, Tokio en Lima?" en een huidig model vraagt om alle drie de tools in één antwoord. Beantwoord ze fout en het model verliest de draad of stopt met het parallel aanroepen van tools.

De regels voor het antwoord dat je terugstuurt:

  • One user bericht waarvan de inhoud een lijst is van tool_result blokken, één voor elk tool_use blok, in dezelfde volgorde. Het splitsen over meerdere berichten leert het model om niet meer parallel te vragen.
  • Elk resultaat weerspiegelt de id van de call als tool_use_id.
  • Een tool die faalt geeft nog steeds een resultaat: is_error: true en een korte boodschap, zodat het model kan uitleggen of een andere manier kan proberen. Laat het nooit vallen, en laat een falende tool nooit de hele beurt laten crashen.
  • Een tool die het model heeft verzonnen (niet in je register) is ook een foutresultaat, nooit iets wat je probeert uit te voeren.

(Voordat dit bericht wordt teruggestuurd, wordt het eigen antwoord van het model, met alle blokken inclusief thinking, onveranderd aan de conversatie toegevoegd.)

Over deze antwoorden: ze zijn gesimuleerd. Elk is geschreven voor deze cursus in precies de vorm die de Claude Messages API teruggeeft (content blocks, stop_reason, usage), en elk kopieert iets wat echte modellen doen. Het zijn geen opnames van een live model, dus de exacte formulering is van ons; de vormen en de problemen zijn de echte problemen waar je code mee te maken krijgt.

Jij bent aan de beurt

Schrijf tool_results(reply, tools), waarbij tools een naam koppelt aan een functie. Geef {"role": "user", "content": [...]} terug met één blok per tool_use blok, in volgorde: {"type": "tool_result", "tool_use_id": ..., "content": str(result), "is_error": False} wanneer de tool draaide, en is_error: True met inhoud "unknown tool: NAME" of "error: MESSAGE" (de foutmelding) wanneer het niet draaide. Houd de REPLIES en TOOLS van de starter zoals ze zijn: de check leest ze.

Een probleem ontdekt in deze les? Meld het · Vraag naar deze les

Deze oefening opent binnenkort

Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.