모델이 산문으로 감싼 JSON
왜 중요한가 구조화된 출력 없이 모델에게 JSON을 요청하면 대부분은 JSON을 받지만, 흔히 그 둘레에 친근한 문장이나 코드 펜스가 붙거나, 쓸 만한 게 하나도 없어요. 날것의 글에 json.loads를 부르는 코드는 첫날에 깨져요.
"이 필드들을 JSON으로 줘"에 대한 응답 다섯 개, 각각 실제 모델이 만드는 패턴이에요:
- 깨끗한 JSON.
- 앞뒤에 문장이 있는
```json펜스 안의 JSON. - 문장 한가운데의 JSON.
- 토큰 한도에서 잘린 리스트(
stop_reason이"max_tokens"), 그래서 JSON이 깨져 있음. - JSON이 전혀 없음: 모델이 왜 할 수 없었는지 설명했어요.
튼튼한 읽기 방법: 먼저 stop_reason을 확인하고(잘린 응답은 마침 해석되더라도 믿을 수 없어요), 그다음 글을 가져와 첫 {나 [에서 짝이 맞는 마지막 }나 ]까지 잘라 내고, 그것을 해석해요. 그래도 실패하는 건 보고할 오류이지, 결코 추측할 대상이 아니에요. (실무에서는 구조화된 출력이 모델을 올바른 JSON으로 제한해서 이 대부분을 없애 줘요. 그래도 stop_reason은 확인해요.)
이 응답들에 대해: 시뮬레이션이에요. 각각은 Claude Messages API가 돌려주는 정확한 모양(콘텐츠 블록, stop_reason, usage)으로 이 강좌를 위해 썼고, 각각 실제 모델이 하는 무언가를 본떴어요. 살아 있는 모델의 녹화가 아니라서 정확한 문구는 우리가 쓴 것이지만, 모양과 문제는 내 코드가 만날 진짜예요.
parse_json_reply(reply)를 쓰세요. stop_reason이 "max_tokens"면 ValueError를 일으키세요. 아니면 글 블록을 잇고, 첫 {나 [(먼저 오는 쪽)에서 짝이 맞는 마지막 }나 ]까지 잘라, 그 조각의 json.loads를 돌려주세요. JSON이 없거나 해석되지 않으면 ValueError를 일으키세요. 시작 코드의 REPLIES는 그대로 두세요: 확인이 그것을 읽어요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.