シラバス レッスン 250 中 141 · 構造化出力と関数/ツール呼び出し
構造化出力と関数/ツール呼び出し

ツールのディスパッチャー/ルーター

モデルはツールのスキーマを読み、ツール呼び出しで返答しました:{"name": "add", "arguments": {"a": 4, "b": 5}} のような解析済みのオブジェクトです。今度はプログラムが、正しい関数を実際に実行しなければなりません。それがディスパッチャー(あるいはルーター)の仕事です:名前の付いたツールを探し、引数が関数の期待するものとちょうど同じであることを確かめ、呼び出し、結果を返すのです。これは LLM の言葉があなたのシステムの中で本物の副作用になる線なので、厳しくしなければならない場所でもあります。

本物のループでは、モデルの返答を解析したすぐあとにあります:

call = parse_tool_call(model_reply)        # {"name": ..., "arguments": {...}}
result = dispatch(call, TOOL_REGISTRY)     # runs the matching Python function
# feed result back to the model as the tool's observation

registry がツール名を Python の関数に対応させる dispatch(call, registry) を作ります。次のことをしなければなりません:

  • call["name"] と call["arguments"] を読む(引数の既定値は {})。
  • 未知のツールを拒否する。名前が登録簿になければ ValueError を送出します -> 決して黙って何もしないことはせず、モデルが幻覚で作ったツールを決して実行しないこと。
  • 引数を検証する。inspect.signature を使って関数の引数の名前を得て、渡された引数のキーがちょうど一致することを確かめます -> 欠けた引数や予期しない余分な引数はエラーを送出しなければなりません。
  • 呼び出して返す。func(**arguments) で関数を呼び、その結果を返します。
import inspect
expected = set(inspect.signature(func).parameters)
if set(arguments) != expected:
    raise ValueError("bad arguments")
return func(**arguments)

なぜ引数にそんなに厳しいのか?間違った引数で実行されたツール呼び出しは、関数の奥深くでクラッシュするか、もっと悪いことに、黙って間違ったことをします。境界で大きな音を立てて失敗することこそが要点です。2 つの違うツール(たとえば計算機と検索)がそれぞれ自分の結果を返し、未知のツールはエラーになり、欠けた引数と余分な引数の両方がエラーになるように作ってください。

あなたの番

call が {"name": ..., "arguments": {...}}、registry が名前を関数に対応させる dispatch(call, registry) を書いてください。未知のツール名ではエラーを送出します。inspect.signature を使って、すべての必須の引数があり、予期しない余分なものがないことを確かめます(既定値のある引数は省略可能なので、省いてもかまいません)。inspect.signature(func).parameters は各名前を引数のオブジェクト p に対応させます。p.default is inspect.Parameter.empty は、その引数に既定値がない、つまり必須であるときちょうど True になります。それから func(**arguments) を呼んで結果を返します。2 つの異なるツールは、それぞれ自分の結果を返さなければなりません。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。