강의 계획 레슨 250개 중 137번째 · 구조화된 출력과 함수/도구 호출
구조화된 출력과 함수/도구 호출

잘못된 모델 JSON 고치기

모델은 완벽한 JSON 생성기가 아니에요. JSON 모드에서도 출력을 ```json 펜스로 감싸고, 수다스러운 서두("물론이죠! 데이터는 이거예요:")를 붙이고, 끝 쉼표를 남기거나, 작은따옴표를 써요. 맨 json.loads는 이 모든 것에서 오류를 내고, 실무에서는 실패한 요청이에요. 작은 수리 단계가 포기하고 모델에 다시 묻기 전에 대부분을 싸게 되살려요.

튼튼한 경로의 모양은 이래요:

text = call_model(prompt)        # may be fenced / prose-wrapped / sloppy
try:
    data = json.loads(text)
except ValueError:
    data = repair_json(text)     # one cheap repair attempt before re-prompting

repair_json(text)를 만들어요. 이 단계들을 순서대로 거치고, json.loads가 성공하자마자 멈추세요:

  • 코드 펜스 벗기기. 전체가 ```(선택적으로 ```json)로 감싸져 있으면 안쪽만 남기세요. re.DOTALL과 함께 ^```[a-zA-Z]*\s*(.*?)\s*```$ 같은 정규식이면 돼요.
  • 둘레의 산문 잘라 내기. 첫 {나 [와 짝이 맞는 마지막 }나 ]를 찾아 그 구간만 잘라 내세요. 앞의 "물론이죠! 여기..."와 뒤의 수다가 빠져요.
  • 그대로 시도하기. 많은 문자열이 이제 올바르니 -> 일찍 return 하세요.
  • 가장 부드러운 고장부터 고치기: re.sub(r",(\s*[}\]])", r"\1", s)로 끝 쉼표를 없애고, 다시 json.loads 하세요.
  • 마지막 수단: 작은따옴표를 큰따옴표로 바꾸고 한 번 더 시도하세요.
  • 그래도 해석되지 않으면 오류를 일으키세요 ValueError로 -> 절대 쓰레기를 돌려주지 마세요. 고칠 수 없는 문자열은 추측하라는 게 아니라 다시 물으라는 신호예요.

따옴표 바꾸기가 마지막인 이유: 문자열 값 안의 아포스트로피도 다시 쓰니, {"note": "it's fine",}는 먼저 바꾸면 깨지지만 쉼표만 없애면 고쳐져요. 모델 출력에는 아포스트로피(O'Brien 같은 이름, it's 같은 단어)가 흔하니, 값을 망칠 수 없는 고치기를 망칠 수 있는 것보다 먼저 시도하세요. 그래도 이건 첫 방어선이에요. 진짜 응답이 해석되지 않으면 다시 묻기(또는 모델을 올바른 JSON으로 제한하는 구조화된 출력)가 더 영리한 수리보다 나아요. 깨끗한 JSON은 건드리지 않고 통과하고, true/false는 Python True/False로 살아남고, 되살릴 JSON이 없는 문자열은 오류를 일으키게 하세요.

내 차례

```/```json 코드 펜스를 벗기고, 첫 {/[ 앞과 짝이 맞는 마지막 }/] 뒤의 산문을 잘라 낸 다음 json.loads를 시도하는 repair_json(text)를 쓰세요. 실패하면 끝 쉼표를 없애고 다시 시도하고, 그래도 실패할 때만 작은따옴표를 큰따옴표로도 바꿔 한 번 더 시도해요(따옴표 바꾸기는 값 안의 아포스트로피도 다시 쓰니 마지막이에요). 그래도 해석되지 않으면 ValueError를 일으켜요. 깨끗한 JSON은 바뀌지 않고 통과해야 해요.

이 레슨에서 문제를 발견했나요? 알려 주세요 · 이 레슨에 대해 묻기

이 연습은 곧 열려요

앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.