Het herstellen van een foutieve Model JSON
Models zijn geen perfecte JSON-emitters. Zelfs in JSON-modus wikkelen ze de output in ```json fences, voegen ze een praatieve inleiding toe ("Natuurlijk! Hier zijn de gegevens:"), laten ze een achtergebleven komma staan of gebruiken ze enkele aanhalingstekens. Een kale json.loads faalt bij al deze zaken, en in productie is dat een mislukte aanvraag. Een kleine repair stap herstelt de meeste ervan goedkoop voordat je opgeeft en de model opnieuw aanvraagt.
De vorm van een robuust pad ziet er zo uit:
text = call_model(prompt) # may be fenced / prose-wrapped / sloppy
try:
data = json.loads(text)
except ValueError:
data = repair_json(text) # one cheap repair attempt before re-promptingJe bouwt repair_json(text). Loop deze stappen door, in volgorde, en stop zodra json.loads slaagt:
- Verwijder een code fence. Als het geheel is ingepakt in
```(optioneel```json), houd dan alleen de binnenkant over. Een regex zoals^```[a-zA-Z]*\s*(.*?)\s*```$metre.DOTALLdoet dit. - Verwijder de omliggende tekst. Zoek de eerste
{of[en de bijbehorende laatste}of], en snijd alleen die span uit. Dat verwijdert "Sure! Here is..." ervoor en eventuele extra tekst achteraf. - Probeer zoals het is. Veel strings zijn nu geldig -> keer vroeg terug.
- Los eerst de kleinste breuken op: verwijder de laatste komma's met
re.sub(r",(\s*[}\]])", r"\1", s), danjson.loadsopnieuw. - Laatste redmiddel: zet enkele aanhalingstekens om naar dubbele aanhalingstekens en probeer nog een keer.
- Als het nog steeds niet parset, raise een
ValueError-> nooit junk retourneren. Een onherstelbare string is een signaal om opnieuw te prompten, niet om te gokken.
Waarom de quote swap als laatste gaat: het herschrijft ook apostroffen binnen string waarden, dus {"note": "it's fine",} zou breken als je eerst zou wisselen, terwijl het alleen verwijderen van de komma het oplost. Model output bevat vaak apostroffen (namen zoals O'Brien, woorden zoals it's), dus probeer de fixes die waarden niet kunnen beschadigen voordat je de fix probeert die dat wel kan. Zelfs dan is dit een eerste verdedigingslinie; wanneer een echt antwoord niet geparsed kan worden, is opnieuw prompten (of structured outputs, die het model beperken tot valide JSON) beter dan een slimmere reparatie. Zorg dat schoon JSON onveranderd doorgaat, true/false overleven als Python True/False, en een string zonder herstelbare JSON geeft een raise.
Schrijf repair_json(text) dat een ```/```json code fence verwijdert, alle tekst voor de eerste {/[ en na de bijbehorende laatste }/] wegsnijdt, en dan json.loads probeert; bij een fout verwijdert het achterliggende komma's en probeert het opnieuw; alleen als dat nog steeds faalt, zet het ook enkele aanhalingstekens om naar dubbele aanhalingstekens en probeert het nog een keer (de quote swap gaat als laatste omdat het ook apostroffen binnen waarden herschrijft); als het nog steeds niet kan worden geparsed, geeft het een ValueError. Schone JSON moet onveranderd doorgaan.
Een probleem ontdekt in deze les? Meld het · Vraag naar deze les
Deze oefening opent binnenkort
Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.
Deze browser blokkeert cookies voor learn.floati.life, dus lessen die je hier hebt afgerond kunnen niet in de juiste volgorde worden geopend. Sta cookies toe voor deze site en laad de pagina opnieuw.