ツールのディスパッチャー/ルーター
モデルはツールのスキーマを読み、ツール呼び出しで返答しました:{"name": "add", "arguments": {"a": 4, "b": 5}} のような解析済みのオブジェクトです。今度はプログラムが、正しい関数を実際に実行しなければなりません。それがディスパッチャー(あるいはルーター)の仕事です:名前の付いたツールを探し、引数が関数の期待するものとちょうど同じであることを確かめ、呼び出し、結果を返すのです。これは LLM の言葉があなたのシステムの中で本物の副作用になる線なので、厳しくしなければならない場所でもあります。
本物のループでは、モデルの返答を解析したすぐあとにあります:
call = parse_tool_call(model_reply) # {"name": ..., "arguments": {...}}
result = dispatch(call, TOOL_REGISTRY) # runs the matching Python function
# feed result back to the model as the tool's observationregistry がツール名を Python の関数に対応させる dispatch(call, registry) を作ります。次のことをしなければなりません:
call["name"]とcall["arguments"]を読む(引数の既定値は{})。- 未知のツールを拒否する。名前が登録簿になければ
ValueErrorを送出します -> 決して黙って何もしないことはせず、モデルが幻覚で作ったツールを決して実行しないこと。 - 引数を検証する。
inspect.signatureを使って関数の引数の名前を得て、渡された引数のキーがちょうど一致することを確かめます -> 欠けた引数や予期しない余分な引数はエラーを送出しなければなりません。 - 呼び出して返す。
func(**arguments)で関数を呼び、その結果を返します。
import inspect
expected = set(inspect.signature(func).parameters)
if set(arguments) != expected:
raise ValueError("bad arguments")
return func(**arguments)なぜ引数にそんなに厳しいのか?間違った引数で実行されたツール呼び出しは、関数の奥深くでクラッシュするか、もっと悪いことに、黙って間違ったことをします。境界で大きな音を立てて失敗することこそが要点です。2 つの違うツール(たとえば計算機と検索)がそれぞれ自分の結果を返し、未知のツールはエラーになり、欠けた引数と余分な引数の両方がエラーになるように作ってください。
call が {"name": ..., "arguments": {...}}、registry が名前を関数に対応させる dispatch(call, registry) を書いてください。未知のツール名ではエラーを送出します。inspect.signature を使って、すべての必須の引数があり、予期しない余分なものがないことを確かめます(既定値のある引数は省略可能なので、省いてもかまいません)。inspect.signature(func).parameters は各名前を引数のオブジェクト p に対応させます。p.default is inspect.Parameter.empty は、その引数に既定値がない、つまり必須であるときちょうど True になります。それから func(**arguments) を呼んで結果を返します。2 つの異なるツールは、それぞれ自分の結果を返さなければなりません。
この演習はまもなく開きます
その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。
このブラウザは learn.floati.life の Cookie をブロックしているため、ここで修了したレッスンを順番どおりに開けません。このサイトの Cookie を許可して再読み込みしてください。