シラバス レッスン 250 中 174 · エージェントを作る(ツール利用と ReAct)
エージェントを作る(ツール利用と ReAct)

ループの防御:max_steps と繰り返し行動での停止

ループできるエージェントは、永遠に ループできてしまいます。モデルが混乱し、失敗する同じツール呼び出しを繰り返し、朝起きると 5 桁の請求書が届いている、というわけです。防御策は任意ではありません。デモと、顧客の前に出せるものとの違いです。2 つの防御でほとんどすべてを捕まえられます。厳格なステップの上限と、繰り返し行動の検出です。

run_with_guard(plan, tools, max_steps) を作ります。以前と同じ種類の計画を実行しますが、ただのトレースではなく小さな報告 {"status": ..., "trace": [...]} を返します。status は 3 つの結果のどれかです:

  • "max_steps" - エージェントが終わる前にステップの上限に達しました。止めて、その旨を示します。
  • "loop_detected" - エージェントが、すでに取ったのと まったく同じ行動(同じツール、同じ引数)を試みました。それはループです。空回りする前に止めます。
  • "done" - 計画がふつうに完了しました(ステップを使い切ったか、"finish" の行動に達しました)。

繰り返しを安く検出できるよう、見た行動を記録しておきます。辞書はハッシュ化できないので、まず各行動をハッシュ化できるキーに変えます:

seen = set()
...
key = (action, repr(args))   # repr makes the args dict hashable
if key in seen:
    return {"status": "loop_detected", "trace": trace}
seen.add(key)

トレースは停止した時点で切り詰めます。max_steps や loop_detected で止めたときは、計画全体ではなく、その瞬間までに実際に実行されたもののトレースを返します。その切り詰めたトレースが障害報告書です。エージェントがどこで道を外れたかを正確に示します。

件数がそろうよう、ステップを記録する 前に ステップの上限と繰り返しを確認します。max_steps=3 ならトレースは最大 3 件で、繰り返された行動は 2 回目に実行される前に捕まります。Run を押して、3 つの結果がすべて起こるのを見てみましょう。

あなたの番

{"status": ..., "trace": [...]} を返す run_with_guard(plan, tools, max_steps=10) を書いてください。トレースが max_steps 件に達したら "max_steps" で、行動がまったく同じく(同じツールと引数で)繰り返されたら "loop_detected" で、計画が完了するか "finish" に達したら "done" で止めます。各ステップを記録する前に防御を確認し、トレースが停止した時点で切り詰められるようにします。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。