Lus-beveiligingen: max_steps & Repeated-Action Halt
Een agent die kan loop kan loop voor altijd. Het model raakt in de war, herhaalt dezelfde mislukte tool call, en je wordt wakker met een rekening van vijf cijfers. Guard rails zijn niet optioneel. Ze zijn het verschil tussen een demo en iets wat je voor een klant zou laten zien. Twee guards vangen bijna alles: een harde stap plafond, en repeated-action detection.
Je gaat run_with_guard(plan, tools, max_steps) bouwen. Het voert hetzelfde soort plan uit als voorheen, maar in plaats van alleen een trace geeft het een klein rapport terug: {"status": ..., "trace": [...]}, waarbij status een van drie uitkomsten is:
"max_steps"- de agent bereikte het plafond van de stappen voordat hij klaar was. Stop en markeer het."loop_detected"- de agent probeerde de exact same action (same tool, same args) die hij al heeft uitgevoerd. Dat is een lus; stop voordat hij blijft draaien."done"- het plan is normaal voltooid (het liep tegen een tekort aan stappen aan of een"finish"actie).
Houd bij welke acties je hebt gezien zodat herhalingen goedkoop te detecteren zijn. Een dict is niet hashable, dus zet elke actie eerst om naar een hashable key:
seen = set()
...
key = (action, repr(args)) # repr makes the args dict hashable
if key in seen:
return {"status": "loop_detected", "trace": trace}
seen.add(key)De trace wordt afgebroken bij het stoppunt: wanneer je stopt op max_steps of loop_detected, geef dan de trace terug van wat er daadwerkelijk tot dat moment is uitgevoerd, niet het hele plan. Die afgebroken trace is je incidentrapport. Het laat precies zien waar de agent de koers verloor.
Controleer het stapplafond en de herhaling before een stap opnemen, zodat de aantallen overeenkomen: met max_steps=3 bevat de trace maximaal 3 items, en een herhaalde actie wordt opgevangen voordat deze een tweede keer draait. Druk op Run om te zien hoe alle drie de uitkomsten worden uitgevoerd.
Schrijf run_with_guard(plan, tools, max_steps=10) die {"status": ..., "trace": [...]} retourneert. Stop met "max_steps" wanneer de trace max_steps entries bereikt, met "loop_detected" wanneer een actie exact herhaalt (dezelfde tool en args), en met "done" wanneer het plan voltooid is of "finish" bereikt. Controleer de guards voordat je elke stap vastlegt zodat de trace wordt afgebroken bij het stoppunt.
Een probleem ontdekt in deze les? Meld het · Vraag naar deze les
Deze oefening opent binnenkort
Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.
Deze browser blokkeert cookies voor learn.floati.life, dus lessen die je hier hebt afgerond kunnen niet in de juiste volgorde worden geopend. Sta cookies toe voor deze site en laad de pagina opnieuw.