Guardiões de laço: max_steps e Parada de Ação Repetida
Um agente que pode fazer um loop pode fazer um loop para sempre. O modelo fica confuso, repete a mesma chamada de tool que falha, e você acorda com uma conta de cinco dígitos. Guard rails não são opcionais. Eles são a diferença entre uma demo e algo que você colocaria na frente de um cliente. Dois guards pegam quase tudo: um teto de passos rígido e detecção de ação repetida.
Você vai construir run_with_guard(plan, tools, max_steps). Ele executa o mesmo tipo de plano de antes, mas em vez de apenas um trace ele retorna um pequeno relatório: {"status": ..., "trace": [...]}, onde status é um de três resultados:
"max_steps"- o agente atingiu o limite de passos antes de terminar. Pare e sinalize."loop_detected"- o agente tentou a exata mesma ação (mesma tool, mesmos args) que ele já realizou. Isso é um laço; pare antes que ele gire."done"- o plano foi concluído normalmente (ele ficou sem passos ou atingiu uma ação"finish").
Rastreie quais ações você já viu para que repetições sejam baratas de detectar. Um dict não é hashable, então transforme cada ação em uma chave hashable primeiro:
seen = set()
...
key = (action, repr(args)) # repr makes the args dict hashable
if key in seen:
return {"status": "loop_detected", "trace": trace}
seen.add(key)O traço é truncado no ponto de parada: quando você para em max_steps ou loop_detected, retorne o traço do que realmente rodou até aquele momento, não o plano inteiro. Esse traço truncado é o seu relatório de incidente - ele mostra exatamente onde o agente saiu dos trilhos.
Verifique o limite de passos e a repetição antes de gravar um passo, para que as contagens coincidam: com max_steps=3 o trace mantém no máximo 3 entradas, e uma ação repetida é capturada antes de rodar uma segunda vez. Pressione Run para ver todos os três resultados dispararem.
Escreva run_with_guard(plan, tools, max_steps=10) retornando {"status": ..., "trace": [...]}. Pare com "max_steps" quando o trace atingir max_steps entradas, com "loop_detected" quando uma ação se repetir exatamente (mesma tool e args), e com "done" quando o plano terminar ou atingir "finish". Verifique os guards antes de registrar cada step para que o trace seja truncado no ponto de parada.
Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição
Este exercício abre em breve
Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.
Este navegador está bloqueando cookies para learn.floati.life, então as lições que você terminou aqui não podem abrir em ordem. Permita cookies para este site e recarregue.