Programma Les 137 van 250 · Gestructureerde Outputs & Function/Tool Calling
Gestructureerde Outputs & Function/Tool Calling

Het herstellen van een foutieve Model JSON

Models zijn geen perfecte JSON-emitters. Zelfs in JSON-modus wikkelen ze de output in ```json fences, voegen ze een praatieve inleiding toe ("Natuurlijk! Hier zijn de gegevens:"), laten ze een achtergebleven komma staan of gebruiken ze enkele aanhalingstekens. Een kale json.loads faalt bij al deze zaken, en in productie is dat een mislukte aanvraag. Een kleine repair stap herstelt de meeste ervan goedkoop voordat je opgeeft en de model opnieuw aanvraagt.

De vorm van een robuust pad ziet er zo uit:

text = call_model(prompt)        # may be fenced / prose-wrapped / sloppy
try:
    data = json.loads(text)
except ValueError:
    data = repair_json(text)     # one cheap repair attempt before re-prompting

Je bouwt repair_json(text). Loop deze stappen door, in volgorde, en stop zodra json.loads slaagt:

  • Verwijder een code fence. Als het geheel is ingepakt in ``` (optioneel ```json), houd dan alleen de binnenkant over. Een regex zoals ^```[a-zA-Z]*\s*(.*?)\s*```$ met re.DOTALL doet dit.
  • Verwijder de omliggende tekst. Zoek de eerste { of [ en de bijbehorende laatste } of ], en snijd alleen die span uit. Dat verwijdert "Sure! Here is..." ervoor en eventuele extra tekst achteraf.
  • Probeer zoals het is. Veel strings zijn nu geldig -> keer vroeg terug.
  • Los eerst de kleinste breuken op: verwijder de laatste komma's met re.sub(r",(\s*[}\]])", r"\1", s), dan json.loads opnieuw.
  • Laatste redmiddel: zet enkele aanhalingstekens om naar dubbele aanhalingstekens en probeer nog een keer.
  • Als het nog steeds niet parset, raise een ValueError -> nooit junk retourneren. Een onherstelbare string is een signaal om opnieuw te prompten, niet om te gokken.

Waarom de quote swap als laatste gaat: het herschrijft ook apostroffen binnen string waarden, dus {"note": "it's fine",} zou breken als je eerst zou wisselen, terwijl het alleen verwijderen van de komma het oplost. Model output bevat vaak apostroffen (namen zoals O'Brien, woorden zoals it's), dus probeer de fixes die waarden niet kunnen beschadigen voordat je de fix probeert die dat wel kan. Zelfs dan is dit een eerste verdedigingslinie; wanneer een echt antwoord niet geparsed kan worden, is opnieuw prompten (of structured outputs, die het model beperken tot valide JSON) beter dan een slimmere reparatie. Zorg dat schoon JSON onveranderd doorgaat, true/false overleven als Python True/False, en een string zonder herstelbare JSON geeft een raise.

Jij bent aan de beurt

Schrijf repair_json(text) dat een ```/```json code fence verwijdert, alle tekst voor de eerste {/[ en na de bijbehorende laatste }/] wegsnijdt, en dan json.loads probeert; bij een fout verwijdert het achterliggende komma's en probeert het opnieuw; alleen als dat nog steeds faalt, zet het ook enkele aanhalingstekens om naar dubbele aanhalingstekens en probeert het nog een keer (de quote swap gaat als laatste omdat het ook apostroffen binnen waarden herschrijft); als het nog steeds niet kan worden geparsed, geeft het een ValueError. Schone JSON moet onveranderd doorgaan.

Een probleem ontdekt in deze les? Meld het · Vraag naar deze les

Deze oefening opent binnenkort

Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.