Protecciones del bucle: max_steps y parada por acción repetida
Un agente que puede repetir en bucle puede hacerlo para siempre. El modelo se confunde, repite la misma llamada a herramienta que falla, y te despiertas con una factura de cinco cifras. Las protecciones no son opcionales: son la diferencia entre una demo y algo que pondrías delante de un cliente. Dos protecciones atrapan casi todo: un techo duro de pasos y la detección de acciones repetidas.
Vas a construir run_with_guard(plan, tools, max_steps). Ejecuta el mismo tipo de plan que antes, pero en lugar de solo una traza devuelve un pequeño informe: {"status": ..., "trace": [...]}, donde status es uno de tres resultados:
"max_steps": el agente llegó al techo de pasos antes de terminar. Detente y señálalo."loop_detected": el agente intentó exactamente la misma acción (misma herramienta, mismos argumentos) que ya había hecho. Eso es un bucle; para antes de que dé vueltas."done": el plan terminó con normalidad (se quedó sin pasos o llegó a una acción"finish").
Lleva la cuenta de las acciones que has visto para que las repeticiones sean baratas de detectar. Un dict no es hashable, así que convierte antes cada acción en una clave hashable:
seen = set()
...
key = (action, repr(args)) # repr makes the args dict hashable
if key in seen:
return {"status": "loop_detected", "trace": trace}
seen.add(key)La traza se corta en el punto de parada: cuando te detienes por max_steps o loop_detected, devuelve la traza de lo que de verdad se ejecutó hasta ese momento, no el plan entero. Esa traza recortada es tu informe de incidencia: muestra exactamente dónde se descarriló el agente.
Comprueba el techo de pasos y la repetición antes de registrar un paso, para que las cuentas cuadren: con max_steps=3 la traza tiene como mucho 3 entradas, y una acción repetida se atrapa antes de que se ejecute por segunda vez. Pulsa Ejecutar para ver los tres resultados.
Escribe run_with_guard(plan, tools, max_steps=10), que devuelva {"status": ..., "trace": [...]}. Para con "max_steps" cuando la traza llegue a max_steps entradas, con "loop_detected" cuando una acción se repita exactamente (misma herramienta y argumentos), y con "done" cuando el plan termine o llegue a "finish". Comprueba las protecciones antes de registrar cada paso para que la traza se corte en el punto de parada.
¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección
Este ejercicio se abre pronto
Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.
Este navegador está bloqueando las cookies de learn.floati.life, así que las lecciones que terminaste aquí no se pueden abrir en orden. Permite las cookies de este sitio y recarga.