Protezioni dei cicli: max_steps e arresto sulle azioni ripetute
Un agente che può ciclare può ciclare per sempre. Il modello si confonde, ripete la stessa chiamata che fallisce, e ti svegli con una bolletta a cinque cifre. Le protezioni non sono facoltative: sono la differenza tra una demo e qualcosa che metteresti davanti a un cliente. Due protezioni catturano quasi tutto: un tetto fisso di passi, e il riconoscimento delle azioni ripetute.
Costruirai run_with_guard(plan, tools, max_steps). Esegue lo stesso tipo di piano di prima, ma invece di una semplice traccia restituisce un piccolo resoconto: {"status": ..., "trace": [...]}, dove status è uno di tre esiti:
"max_steps": l'agente ha raggiunto il tetto di passi prima di finire. Fermati e segnalalo."loop_detected": l'agente ha provato esattamente la stessa azione (stesso strumento, stessi argomenti) che ha già compiuto. È un ciclo; fermati prima che giri a vuoto."done": il piano è finito normalmente (ha esaurito i passi o ha incontrato un'azione"finish").
Tieni traccia delle azioni che hai visto così le ripetizioni sono facili da riconoscere. Un dict non è hashable, quindi trasforma prima ogni azione in una chiave hashable:
seen = set()
...
key = (action, repr(args)) # repr makes the args dict hashable
if key in seen:
return {"status": "loop_detected", "trace": trace}
seen.add(key)La traccia si tronca al punto di arresto: quando ti fermi su max_steps o loop_detected, restituisci la traccia di ciò che è stato davvero eseguito fino a quel momento, non tutto il piano. Quella traccia troncata è il tuo rapporto sull'incidente: mostra esattamente dove l'agente è uscito di strada.
Controlla il tetto di passi e la ripetizione prima di registrare un passo, così i conteggi tornano: con max_steps=3 la traccia contiene al massimo 3 voci, e un'azione ripetuta viene beccata prima che giri una seconda volta. Premi Run per vedere scattare tutti e tre gli esiti.
Scrivi run_with_guard(plan, tools, max_steps=10) che restituisce {"status": ..., "trace": [...]}. Fermati con "max_steps" quando la traccia raggiunge max_steps voci, con "loop_detected" quando un'azione si ripete esattamente (stesso strumento e stessi argomenti), e con "done" quando il piano finisce o incontra "finish". Controlla le protezioni prima di registrare ogni passo così la traccia si tronca al punto di arresto.
Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione
Questo esercizio si apre presto
Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.
Questo browser blocca i cookie per learn.floati.life, quindi le lezioni che hai finito qui non si possono aprire in ordine. Consenti i cookie per questo sito e ricarica.