Lehrplan Lektion 175 von 250 · Agenten bauen (Tool-Use & ReAct)
Agenten bauen (Tool-Use & ReAct)

Agenten-Gedächtnis & Zustandsakkumulation

Die ReAct-Schleife, die du gebaut hast, hat Amnesie: jeder Schritt ruft ein Tool auf und vergisst es. Ein echter Agent muss das Gelernte weitertragen - die Fakten, die er nachgeschlagen hat, die Ergebnisse, die Tools zurückgegeben haben - damit ein späterer Schritt sie nutzen kann. Dieses laufende Notebook ist das Memory des Agenten (Menschen nennen es auch Scratchpad oder Arbeitskontext). Dein Code besitzt es; das Modell niemals.

Aber Kontext ist nicht kostenlos. Alles im Speicher wird im nächsten Schritt wieder in den Prompt gestopft, und das Modell hat ein festes context window gemessen in tokens. Wenn der Speicher ewig wächst, überläufst du schließlich das Fenster (und zahlst für jeden Token dazwischen). Also braucht der Speicher zwei Hälften: accumulate neue Fakten während du vorangehst, und trim zurück auf ein Budget, wenn es zu groß wird.

Die Form davon

State ist ein dict: eine permanente system note (die dauerhaften Anweisungen des Agenten, die du niemals wegwirfst) und eine Liste von facts, die es gesammelt hat:

state = {"system": "You are a research agent.", "facts": []}

Jede Beobachtung wird zu einer Faktenzeile. Nachdem ein Tool läuft, fügst du einen lesbaren Datensatz dessen hinzu, was passiert ist:

state["facts"].append(f"{tool}({args}) -> {observation}")

Zuschneiden auf ein Token-Budget

Echte Tokenizer sind gelernt und basieren auf Subwords; wir können hier keinen ausführen, also schätzen wir ein Token als ein Wort mit Leerzeichen (len(text.split())) - derselbe Trick wie beim LLM-Modul. (In der Produktion würdest du die echte Subword-Anzahl aus dem usage-Feld der API oder die len(text) / 4-Faustregel für Zeichen verwenden; die Schätzung über Leerzeichen hält diese Übung deterministisch.) Die Trim-Regel spiegelt wider, was Produktions-Agenten tatsächlich tun: behalte immer die Systemnotiz, dann behalte so viele der neuesten Fakten, wie in den Rest des Budgets passen. Aktualität gewinnt, weil die neuesten Ergebnisse meistens die sind, die der nächste Schritt benötigt.

budget = max_tokens - est_tokens(state["system"])
# walk facts newest-first, keep while they fit, then stop

Gehe die Fakten vom neuesten zum ältesten durch und addiere die Tokenkosten jedes einzelnen, bis das nächste Fakt das Budget überschreiten würde, dann stoppe. Kehre zurück, damit die behaltenen Fakten in ihrer ursprünglichen Reihenfolge bleiben. Wenn das Budget winzig ist, kannst du null Fakten behalten, aber die Systemnotiz überlebt immer.

In einem Live-Agenten würde das Modell render(state) am Anfang jedes Schrittes lesen und derselbe accumulate-then-trim Zyklus würde nach jedem Tool-Call laufen, damit das Fenster niemals überläuft. Der On-Device-Tutor kann diese Schleife steuern, aber das Grading prüft nur den deterministischen Zustand. Drücke Run, um ein kurzes Transkript zu sammeln und beobachte, wie die ältesten Fakten unter einem engen Budget wegfallen.

Du bist dran

Baue das Gedächtnis des Agenten auf. Schreibe new_state(system_note) -> {"system": note, "facts": []}; record(state, tool, args, observation), welches die Faktenzeile "<tool>(<args>) -> <observation>" anhängt und den Zustand zurückgibt; est_tokens(text) -> Whitespace Token Anzahl; und trim(state, max_tokens), welches die Systemnotiz plus die jüngsten Fakten behält, deren Tokens (die Systemnotiz zählt zum Budget) in max_tokens passen. Schreibe dann accumulate(system_note, transcript, max_tokens): starte einen frischen Zustand, record jeden (tool, args, observation) Schritt in der Reihenfolge, trim einmal am Ende, und gib den gekürzten Zustand zurück.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.