Agentgeheue & Staatsakkumulasie
Die ReAct-lus wat jy gebou het het geheueverlies: elke stap roep 'n tool op en vergeet. 'n Regte agent moet draai wat dit geleer het vorentoe - die feite wat dit opgesoek het, die resultate wat tools teruggegee het - sodat 'n latere stap dit kan gebruik. Daardie loopende notebook is die agent se geheue (mense noem dit ook die scratchpad of werkskonteks). Jou kode besit dit; die model doen nooit nie.
Maar konteks is nie gratis nie. Alles in die geheue word teruggeprop in die prompt by die volgende stap, en die model het 'n vaste context window gemat by tokens. Laat geheue vir ewig groei en jy oorloop uiteindelik die venster (en betaal vir elke token daarnas). So geheue het twee dele nodig: accumulate nuwe feite terwyl jy gaan, en trim terug na 'n begroting wanneer dit te groot word.
Die vorm daarvan
State is een dict: 'n permanente system nota (die agent se staande instruksies, wat jy nooit weggooi nie) en 'n lys van facts wat dit versamel het:
state = {"system": "You are a research agent.", "facts": []}Elke waarneming word een feit-reël. Nadat 'n tool loop, voeg jy 'n leesbare rekord van wat gebeur het by:
state["facts"].append(f"{tool}({args}) -> {observation}")Snoei af tot by 'n token-begroting
Ware tokenizers word geleer en is subwoord-gebaseer; ons kan nie een hier hardloop nie, so ons skat 'n token as een witspasie-woord (len(text.split())) - dieselfde truc as die LLM module. (In produksie sou jy die werklike subwoord-telling van die API se usage veld gebruik, of die len(text) / 4 karakter-reël van die duim; die witspasie-skatting hou hierdie oefening net deterministies.) Die trim-reël weerspieël wat produksie-agents werklik doen: hou altyd die stelselnota, hou dan soveel van die mees-recente feite as wat in die res van die begroting pas. Onlangse inligting wen omdat die nuutste resultate gewoonlik diegene is wat die volgende stap nodig het.
budget = max_tokens - est_tokens(state["system"])
# walk facts newest-first, keep while they fit, then stopLoop deur die feite van nuutste na oudste. Voeg die token koste van elk een by totdat die volgende feit die begrooting sou oorskry, dan stop. Draai dit terug sodat die behoude feite in hul oorspronklike volgorde bly. As die begrooting klein is, mag jy nul feite behou, maar die stelselnota oorleef altyd.
In 'n lewendige agent sal die model render(state) bo aan elke stap lees en dieselfde accumulate-then-trim siklus sal na elke tool call loop, sodat die venster nooit oorloop nie. Die on-device tutor kan hierdie loop bestuur, maar grading inspekteer net die deterministiese staat. Druk Run om 'n kort transcript te akkumuleer en kyk hoe die oudste feite wegval onder 'n streng begroting.
Bou die agent se geheue. Skryf new_state(system_note) -> {"system": note, "facts": []}; record(state, tool, args, observation) wat die feit-lyn "<tool>(<args>) -> <observation>" byvoeg en die status teruggee; est_tokens(text) -> witspasie-token telling; en trim(state, max_tokens) wat die stelselnota plus die meeset-feite behou waarvan die tokens (die stelselnota tel teen die begroting) in max_tokens pas. Skryf dan accumulate(system_note, transcript, max_tokens): begin 'n vars status, record elke (tool, args, observation) stap in volgorde, trim een keer aan die einde, en gee die gesnyde status terug.
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.