並列のツール呼び出しと is_error
前のレッスンではツール呼び出しを 1 つ扱いました。でも今のモデルはいくつも一度に求めます:並列のツール使用は既定でオンなので、1 つのアシスタントのターンに 3 つや 4 つの tool_use ブロックが入ることがあります(「天気を調べて、そして注文を探して、そして在庫を確かめて」)。コードが最初の 1 つしか実行しないと、モデルは決して来ない結果を待ち、ターンは止まってしまいます。
ここでの「並列」はモデルの「要求」を表していて、あなたの実行のことではありません:モデルが 1 つのターンでいくつものツールを求めたのです。ただ 1 つずつ順番に実行して、すべての結果をまとめて送り返せばよく、スレッドや非同期処理は必要ありません。
決まりは厳密です:すべての tool_use ブロックを実行し、それから content が tool_result ブロックのリストになった user メッセージを1 つ送り返します。呼び出しごとに 1 つで、それぞれが自分の tool_use_id をそのまま返します。
{"content": [
{"type": "tool_use", "id": "t1", "name": "get_weather", "input": {"city": "Paris"}},
{"type": "tool_use", "id": "t2", "name": "add", "input": {"a": 2, "b": 5}}],
"stop_reason": "tool_use"}2 つ目の新しい考えは失敗の隔離です。1 つのツールがエラーを送出しても、ターン全体をクラッシュさせてほかの結果を失ってはいけません。そのブロックの tool_result を、"is_error": True と、コンテンツとしてのエラーのテキスト付きで返せば、モデルは何がうまくいかなかったかを見て立ち直れます。幻覚のツール名(あなたの登録簿にないもの)も、ただのもう 1 つのエラーです:is_error として報告し、登録していないものは決して実行しないでください。
次の user メッセージを 1 つ返す run_tool_calls(resp, tools) を作ってください。成功したときの tool_result はちょうど type、tool_use_id、content(str(...) した結果)を持ちます。失敗したときはさらに "is_error": True も持ちます。実行を押して、呼び出しが 2 つのターンに答えましょう。
resp["content"] の中のすべての tool_use ブロックを実行し(ほかの種類のブロックは無視します)、呼び出しごとに 1 つの結果を順番どおりに入れた user メッセージ {"role": "user", "content": [ ...tool_result blocks... ]} を 1 つ返す run_tool_calls(resp, tools) を書いてください。成功した結果はそれぞれ {"type": "tool_result", "tool_use_id": <id>, "content": str(result)} です。ツールがエラーを送出するか、その名前が tools にないときは、その結果は代わりに "is_error": True と、content としてのエラーのテキストを持ち、ほかのツールはそれでも実行されます。
この演習はまもなく開きます
その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。
このブラウザは learn.floati.life の Cookie をブロックしているため、ここで修了したレッスンを順番どおりに開けません。このサイトの Cookie を許可して再読み込みしてください。