병렬 도구 호출과 is_error
앞 레슨은 도구 호출 하나를 다뤘어요. 하지만 현대 모델은 여러 개를 한꺼번에 요청해요: 병렬 도구 사용이 기본으로 켜져 있어서, assistant 차례 하나에 tool_use 블록이 서너 개 들어 있을 수 있어요("날씨를 알아보고 그리고 주문을 찾아보고 그리고 재고를 확인해"). 내 코드가 첫 번째만 실행하면 모델은 결코 오지 않을 결과를 기다리고 차례가 멈춰요.
여기서 "병렬"은 내 실행이 아니라 모델의 요청을 말해요: 모델이 한 차례에 도구 여러 개를 요청했어요. 차례로 하나씩 실행하고 모든 결과를 함께 돌려보내면 돼요. 스레드도 async도 필요 없어요.
계약은 정확해요: 모든 tool_use 블록을 실행한 다음, content가 호출마다 하나씩 각자의 tool_use_id를 되울리는 tool_result 블록의 리스트인 user 메시지 하나를 돌려보내요.
{"content": [
{"type": "tool_use", "id": "t1", "name": "get_weather", "input": {"city": "Paris"}},
{"type": "tool_use", "id": "t2", "name": "add", "input": {"a": 2, "b": 5}}],
"stop_reason": "tool_use"}두 번째 새 생각은 실패 격리예요. 도구 하나가 오류를 일으켜도 차례 전체를 멈추고 다른 결과들을 잃으면 안 돼요. 그 블록의 tool_result를 "is_error": True와 오류 글을 콘텐츠로 해서 돌려주면, 모델이 무엇이 잘못됐는지 보고 회복할 수 있어요. 지어낸 도구 이름(레지스트리에 없는)도 또 하나의 오류일 뿐이에요: is_error로 보고하고, 등록하지 않은 건 절대 실행하지 마세요.
후속 user 메시지 하나를 돌려주는 run_tool_calls(resp, tools)를 만드세요. 성공하면 tool_result에는 정확히 type, tool_use_id, content(str(...)로 바꾼 결과)가 있고, 실패하면 "is_error": True도 실려요. 호출 두 개짜리 차례에 답하려면 실행을 누르세요.
resp["content"]의 모든 tool_use 블록을 실행하고(다른 블록 타입은 무시) 호출마다 결과 하나씩 순서대로 담은 user 메시지 하나 {"role": "user", "content": [ ...tool_result blocks... ]}를 돌려주는 run_tool_calls(resp, tools)를 쓰세요. 성공한 결과는 각각 {"type": "tool_result", "tool_use_id": <id>, "content": str(result)}예요. 도구가 오류를 일으키거나 이름이 tools에 없으면, 그 결과는 대신 오류 글을 content로 하고 "is_error": True를 실어요. 다른 도구들은 여전히 실행돼요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.