Memoria del agente y acumulación de estado
El bucle ReAct que construiste tiene amnesia: cada paso llama a una herramienta y olvida. Un agente real tiene que llevar hacia delante lo que aprendió (los datos que buscó, los resultados que devolvieron las herramientas) para que un paso posterior pueda usarlos. Ese cuaderno en marcha es la memoria del agente (también lo llaman borrador o contexto de trabajo). Es de tu código; nunca del modelo.
Pero el contexto no es gratis. Todo lo que hay en memoria se vuelve a meter en el prompt en el siguiente paso, y el modelo tiene una ventana de contexto fija medida en tokens. Deja que la memoria crezca sin fin y acabarás desbordando la ventana (y pagando cada token, además). Así que la memoria necesita dos mitades: acumular datos nuevos sobre la marcha, y recortar hasta un presupuesto cuando crezca demasiado.
La forma
El estado es un dict: una nota system permanente (las instrucciones fijas del agente, que nunca tiras) y una lista de facts que ha ido reuniendo:
state = {"system": "You are a research agent.", "facts": []}Cada observación se convierte en una línea de dato. Después de que se ejecute una herramienta, añades un registro legible de lo que pasó:
state["facts"].append(f"{tool}({args}) -> {observation}")Recortar hasta un presupuesto de tokens
Los tokenizadores reales se aprenden y trabajan con subpalabras; aquí no podemos ejecutar uno, así que estimamos un token como una palabra separada por espacios (len(text.split())), el mismo truco que en el módulo de LLM. (En producción usarías el recuento real de subpalabras del campo usage de la API, o la regla aproximada de len(text) / 4 caracteres; la estimación por espacios solo mantiene este ejercicio determinista.) La regla de recorte refleja lo que hacen de verdad los agentes de producción: conserva siempre la nota de sistema, y luego conserva tantos de los datos más recientes como quepan en lo que queda del presupuesto. Gana lo reciente porque los últimos resultados suelen ser los que necesita el siguiente paso.
budget = max_tokens - est_tokens(state["system"])
# walk facts newest-first, keep while they fit, then stopRecorre los datos del más nuevo al más antiguo, sumando el coste en tokens de cada uno hasta que el siguiente dato reviente el presupuesto, y entonces para. Vuelve a invertir el orden para que los datos conservados mantengan su orden original. Si el presupuesto es diminuto puede que no conserves ningún dato, pero la nota de sistema siempre sobrevive.
En un agente en vivo, el modelo leería render(state) al principio de cada paso y el mismo ciclo de acumular y recortar se ejecutaría tras cada llamada a herramienta, así que la ventana nunca se desborda. El tutor del dispositivo puede mover este bucle, pero la evaluación solo inspecciona el estado determinista. Pulsa Ejecutar para acumular una transcripción corta y ver cómo los datos más antiguos van cayendo con un presupuesto ajustado.
Construye la memoria del agente. Escribe new_state(system_note) -> {"system": note, "facts": []}; record(state, tool, args, observation), que añade la línea de dato "<tool>(<args>) -> <observation>" y devuelve el estado; est_tokens(text) -> número de tokens separados por espacios; y trim(state, max_tokens), que conserva la nota de sistema más los datos más recientes cuyos tokens (la nota de sistema cuenta contra el presupuesto) quepan en max_tokens. Luego escribe accumulate(system_note, transcript, max_tokens): empieza un estado nuevo, aplica record a cada paso (tool, args, observation) en orden, aplica trim una vez al final y devuelve el estado recortado.
¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección
Este ejercicio se abre pronto
Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.
Este navegador está bloqueando las cookies de learn.floati.life, así que las lecciones que terminaste aquí no se pueden abrir en orden. Permite las cookies de este sitio y recarga.