Schleifenschutz: max_steps & Repeated-Action Halt
Ein Agent, der eine Schleife ausführen kann, kann ewig. Das Modell wird verwirrt, wiederholt denselben fehlerhaften Tool-Aufruf und du wachst mit einer fünfstelligen Rechnung auf. Guard Rails sind keine Option. Sie sind der Unterschied zwischen einer Demo und etwas, das du einem Kunden zeigen würdest. Zwei Guards fangen fast alles ab: eine harte Schritt-Obergrenze und die Erkennung von wiederholten Aktionen.
Du wirst run_with_guard(plan, tools, max_steps) bauen. Es führt den gleichen Plan wie zuvor aus, aber anstatt nur einen Trace liefert es einen kleinen Bericht: {"status": ..., "trace": [...]}, wobei status eines von drei Ergebnissen ist:
"max_steps"- der Agent hat die Schrittbegrenzung erreicht, bevor er fertig war. Stoppen und markieren."loop_detected"- der Agent hat die exakt gleiche Aktion (gleiches Tool, gleiche args) versucht, die er bereits ausgeführt hat. Das ist eine Schleife; halte an, bevor er sich dreht."done"- der Plan wurde normal abgeschlossen (er hat keine Schritte mehr gehabt oder eine"finish"Aktion erreicht).
Verfolge, welche Aktionen du gesehen hast, damit Wiederholungen günstig zu erkennen sind. Ein dict ist nicht hashbar, also wandle jede Aktion zuerst in einen hashbaren Schlüssel um:
seen = set()
...
key = (action, repr(args)) # repr makes the args dict hashable
if key in seen:
return {"status": "loop_detected", "trace": trace}
seen.add(key)Der Trace wird am Halt-Punkt gekürzt: wenn du bei max_steps oder loop_detected stoppst, gib den Trace dessen zurück, was bis zu diesem Moment tatsächlich lief, nicht den ganzen Plan. Dieser gekürzte Trace ist dein Vorfallbericht. Er zeigt genau, wo der Agent vom Weg abgekommen ist.
Überprüfe die Schritt-Obergrenze und die Wiederholung before einen Schritt aufzeichnest, damit die Zählungen übereinstimmen: mit max_steps=3 hält der Trace höchstens 3 Einträge, und eine wiederholte Aktion wird erfasst, bevor sie ein zweites Mal ausgeführt wird. Drücke Run um zu sehen, wie alle drei Ergebnisse ausgelöst werden.
Schreibe run_with_guard(plan, tools, max_steps=10) und gib {"status": ..., "trace": [...]} zurück. Halte mit "max_steps" an, wenn der Trace max_steps Einträge erreicht, mit "loop_detected" wenn eine Aktion exakt wiederholt wird (gleiches Tool und args), und mit "done" wenn der Plan abgeschlossen ist oder "finish" erreicht. Überprüfe die Guards vor dem Aufzeichnen jedes Schritts, damit der Trace am Haltpunkt gekürzt wird.
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.