강의 계획 레슨 250개 중 174번째 · 에이전트 만들기 (도구 사용과 ReAct)
에이전트 만들기 (도구 사용과 ReAct)

반복 방지 장치: max_steps와 반복 행동 멈춤

반복할 수 있는 에이전트는 영원히 반복할 수 있어요. 모델이 헷갈려서 실패하는 같은 도구 호출을 되풀이하면, 깨어 보니 다섯 자리 청구서가 와 있어요. 가드레일은 선택이 아니에요 - 데모와 고객 앞에 둘 무언가의 차이예요. 방지 장치 두 개가 거의 모든 걸 잡아요: 엄격한 단계 상한, 그리고 반복 행동 감지.

run_with_guard(plan, tools, max_steps)를 만들 거예요. 전과 같은 종류의 계획을 돌리지만, 추적만이 아니라 작은 보고서를 돌려줘요: {"status": ..., "trace": [...]}. status는 세 결과 중 하나예요:

  • "max_steps" - 에이전트가 끝내기 전에 단계 상한에 닿았어요. 멈추고 표시해요.
  • "loop_detected" - 에이전트가 이미 한 것과 정확히 같은 행동(같은 도구, 같은 args)을 시도했어요. 그건 반복이에요. 헛돌기 전에 멈춰요.
  • "done" - 계획이 정상적으로 끝났어요(단계가 떨어졌거나 "finish" 행동에 닿았어요).

반복을 싸게 감지하도록 본 행동을 추적하세요. dict는 해시할 수 없으니, 먼저 각 행동을 해시할 수 있는 키로 바꾸세요:

seen = set()
...
key = (action, repr(args))   # repr makes the args dict hashable
if key in seen:
    return {"status": "loop_detected", "trace": trace}
seen.add(key)

추적은 멈춘 지점에서 잘려요: max_steps나 loop_detected로 멈출 때, 계획 전체가 아니라 그 순간까지 실제로 돈 것의 추적을 돌려주세요. 그 잘린 추적이 사고 보고서예요 - 에이전트가 정확히 어디서 탈선했는지 보여 줘요.

개수가 맞도록 단계를 기록하기 전에 단계 상한과 반복을 확인하세요: max_steps=3이면 추적은 최대 3개 항목을 담고, 반복된 행동은 두 번째로 돌기 전에 잡혀요. Run을 눌러 세 결과가 모두 일어나는 걸 보세요.

내 차례

{"status": ..., "trace": [...]}를 돌려주는 run_with_guard(plan, tools, max_steps=10)를 쓰세요. 추적이 max_steps개 항목에 닿으면 "max_steps"로, 행동이 정확히 반복되면(같은 도구와 args) "loop_detected"로, 계획이 끝나거나 "finish"에 닿으면 "done"으로 멈추세요. 추적이 멈춘 지점에서 잘리도록 각 단계를 기록하기 전에 방지 장치를 확인하세요.

이 레슨에서 문제를 발견했나요? 알려 주세요 · 이 레슨에 대해 묻기

이 연습은 곧 열려요

앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.