エージェントの記憶と状態の蓄積
あなたが作った ReAct ループは記憶喪失です。各ステップがツールを呼んでは忘れます。本物のエージェントは、学んだことを先へ持ち越さなければなりません。調べた事実やツールが返した結果を持ち越して、後のステップがそれを使えるようにします。その進行中のノートがエージェントの 記憶 です(スクラッチパッドや作業コンテキストとも呼ばれます)。それを持つのはあなたのコードで、モデルではありません。
でもコンテキストはただではありません。記憶にあるものはすべて次のステップでプロンプトに詰め直され、モデルには トークン で測る固定の コンテキストウィンドウ があります。記憶を際限なく増やせば、いずれウィンドウからあふれます(そのうえトークンごとに料金がかかります)。だから記憶には 2 つの半分が必要です。進むにつれて新しい事実を 蓄積 し、大きくなりすぎたら予算まで 切り詰める ことです。
その形
状態はひとつの辞書です。決して捨てない永続的な system のメモ(エージェントの常設の指示)と、集めた facts のリストです:
state = {"system": "You are a research agent.", "facts": []}観察はひとつずつ事実の行になります。ツールが動いた後、何が起きたかの読める記録を追加します:
state["facts"].append(f"{tool}({args}) -> {observation}")トークン予算への切り詰め
本物のトークナイザーは学習で作られたサブワード単位のもので、ここでは動かせません。そこで、トークンを空白で区切った 1 語(len(text.split()))と見積もります。LLM のモジュールと同じ技です。(本番では API の usage 項目にある本物のサブワード数か、len(text) / 4 という文字数の目安を使います。空白による見積もりは、この演習を決定的に保つためだけのものです。)切り詰めのルールは、本番のエージェントが実際にしていることをなぞります。system のメモは必ず残し、それから予算の残りに収まるだけの 最も新しい 事実を残します。次のステップに必要なのはたいてい最新の結果なので、新しさが勝ちます。
budget = max_tokens - est_tokens(state["system"])
# walk facts newest-first, keep while they fit, then stop事実を新しいものから古いものへたどり、それぞれのトークン数を足していき、次の事実で予算を超えるところで止めます。残した事実が元の順のままになるよう、逆順に戻します。予算がとても小さければ事実をひとつも残さないこともありますが、system のメモは必ず残ります。
ライブのエージェントでは、モデルが各ステップの最初に render(state) を読み、ツールを呼ぶたびに同じ蓄積と切り詰めの流れが走るので、ウィンドウは決してあふれません。デバイス上のチューターはこのループを動かせますが、採点が調べるのは常に決定的な状態だけです。Run を押して短い記録を蓄積し、厳しい予算のもとで古い事実が落ちていくのを見てみましょう。
エージェントの記憶を作ります。new_state(system_note) -> {"system": note, "facts": []}、事実の行 "<tool>(<args>) -> <observation>" を追加して状態を返す record(state, tool, args, observation)、est_tokens(text) -> 空白で区切ったトークン数、そして system のメモと、トークン数(system のメモも予算に数えます)が max_tokens に収まる最も新しい事実を残す trim(state, max_tokens) を書いてください。次に accumulate(system_note, transcript, max_tokens) を書きます。新しい状態から始め、すべての (tool, args, observation) のステップを順に record し、最後に一度だけ trim して、切り詰めた状態を返します。
この演習はまもなく開きます
その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。
このブラウザは learn.floati.life の Cookie をブロックしているため、ここで修了したレッスンを順番どおりに開けません。このサイトの Cookie を許可して再読み込みしてください。