강의 계획 레슨 250개 중 175번째 · 에이전트 만들기 (도구 사용과 ReAct)
에이전트 만들기 (도구 사용과 ReAct)

에이전트 기억과 상태 쌓기

여러분이 만든 ReAct 반복은 기억상실증이에요: 단계마다 도구를 부르고 잊어요. 진짜 에이전트는 배운 것을 앞으로 실어 날라야 해요 - 찾아본 사실, 도구가 돌려준 결과 - 그래야 나중 단계가 그것을 쓸 수 있어요. 그 계속 써 나가는 노트가 에이전트의 기억이에요(스크래치패드나 작업 맥락이라고도 불러요). 여러분의 코드가 그것을 가지고, 모델은 결코 갖지 않아요.

하지만 맥락은 공짜가 아니에요. 기억 속의 모든 게 다음 단계에서 프롬프트로 다시 채워지고, 모델에는 토큰으로 잰 고정된 맥락 창이 있어요. 기억이 영원히 자라게 두면 결국 창이 넘쳐요(게다가 모든 토큰에 돈을 내요). 그래서 기억에는 두 반쪽이 필요해요: 가면서 새 사실을 쌓고, 너무 커지면 예산으로 다듬기.

모양

상태는 dict 하나예요: 영구적인 system 메모(결코 버리지 않는 에이전트의 상시 지시)와 모은 facts 리스트:

state = {"system": "You are a research agent.", "facts": []}

모든 관찰은 사실 한 줄이 돼요. 도구가 돈 뒤 일어난 일의 읽을 수 있는 기록을 덧붙여요:

state["facts"].append(f"{tool}({args}) -> {observation}")

토큰 예산으로 다듬기

진짜 토크나이저는 학습되고 부분 단어 기반이에요. 여기서는 돌릴 수 없으니 토큰을 공백 단어 하나로 추정해요(len(text.split())) - LLM 모듈과 같은 요령이에요. (운영에서는 API의 usage 필드의 진짜 부분 단어 개수나 len(text) / 4 글자 경험 법칙을 쓸 거예요. 공백 추정은 이 연습을 결정적으로 유지할 뿐이에요.) 다듬기 규칙은 운영 에이전트가 실제로 하는 걸 따라 해요: 시스템 메모는 언제나 지키고, 그다음 남은 예산에 들어가는 만큼 가장 최근 사실을 지켜요. 다음 단계에 필요한 건 보통 최신 결과이니 최신성이 이겨요.

budget = max_tokens - est_tokens(state["system"])
# walk facts newest-first, keep while they fit, then stop

사실을 새것부터 옛것까지 걸으며, 다음 사실이 예산을 터뜨릴 때까지 각각의 토큰 비용을 더하고, 그다음 멈춰요. 지킨 사실이 원래 순서로 남도록 다시 뒤집어요. 예산이 아주 작으면 사실을 하나도 못 지킬 수도 있지만, 시스템 메모는 언제나 살아남아요.

실시간 에이전트에서는 모델이 매 단계 맨 위에서 render(state)를 읽고 모든 도구 호출 뒤에 같은 쌓고-다듬기 주기가 돌아서, 창이 결코 넘치지 않아요. 기기 내 튜터가 이 반복을 몰 수 있지만, 채점은 오로지 결정적인 상태만 살펴봐요. Run을 눌러 짧은 기록을 쌓고 빠듯한 예산에서 가장 오래된 사실이 떨어져 나가는 걸 보세요.

내 차례

에이전트의 기억을 만드세요. new_state(system_note) -> {"system": note, "facts": []}, 사실 줄 "<tool>(<args>) -> <observation>"을 덧붙이고 상태를 돌려주는 record(state, tool, args, observation), est_tokens(text) -> 공백 토큰 수, 그리고 시스템 메모와 그 토큰이(시스템 메모도 예산에서 빠져요) max_tokens에 들어가는 가장 최근 사실을 지키는 trim(state, max_tokens)를 쓰세요. 그다음 accumulate(system_note, transcript, max_tokens)를 쓰세요: 새 상태로 시작하고, 모든 (tool, args, observation) 단계를 순서대로 record 하고, 끝에 한 번 trim 하고, 다듬은 상태를 돌려주세요.

이 레슨에서 문제를 발견했나요? 알려 주세요 · 이 레슨에 대해 묻기

이 연습은 곧 열려요

앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.