Parallelle Tool Calls & is_error
Die vorige les het een tool call hanteer. Maar moderne modelle vra vir verskeie een gelyktydig: parallelle tool gebruik is standaard aan, so 'n enkele assistent-beurt kan drie of vier tool_use blokke bevat ("haal die weer op EN soek die bestelling op EN kontroleer voorraad"). As jou code net die eerste een uitvoer, wag die model vir resultate wat nooit kom nie en die beurt stop.
"Parallel" beskryf hier die model se REQUEST, nie jou uitvoering nie: die model het gevra vir verskeie tools in een beurt. Jy kan hulle eenvoudig een na een uitvoer en al die resultate saam terugstuur, geen threads of async nodig nie.
Die kontrak is presies: hardloop elke tool_use blok, dan stuur die one boodskap van die gebruiker waarvan die content 'n lys van tool_result blokke is, een per oproep, elk wat sy eie tool_use_id weerspieël.
{"content": [
{"type": "tool_use", "id": "t1", "name": "get_weather", "input": {"city": "Paris"}},
{"type": "tool_use", "id": "t2", "name": "add", "input": {"a": 2, "b": 5}}],
"stop_reason": "tool_use"}Die tweede nuwe idee is failure isolation. As een tool faal, laat jy nie die hele beurt kras nie en verloor jy nie die ander resultate nie. Jy gee daardie blok se tool_result terug met "is_error": True en die foutteks as die inhoud, sodat die model kan sien wat fout gegaan het en kan herstel. 'n Hallusineerde toolnaam (nie in jou registry nie) is net nog 'n fout: rapporteer dit as is_error, hardloop nooit iets wat jy nie geregistreer het nie.
Bou run_tool_calls(resp, tools) wat die enkele opvolg-gebruikersboodskap teruggee. By sukses het 'n tool_result presies type, tool_use_id, en content (die resultaat via str(...)); by mislukking bevat dit OOK "is_error": True. Druk Run om 'n twee-oproep-beurt te beantwoord.
Skryf run_tool_calls(resp, tools) wat ELKE tool_use blok in resp["content"] hardloop (ignore ander bloktipes) en een gebruikersboodskap {"role": "user", "content": [ ...tool_result blocks... ]} teruggee, een resultaat per oproep in volgorde. Elke suksesvolle resultaat is {"type": "tool_result", "tool_use_id": <id>, "content": str(result)}. As 'n tool OR wees of sy naam nie in tools is nie, dra daardie resultaat eerder "is_error": True met die foutteks as content, en die ander tools hardloop steeds.
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.