Programma Les 246 van 250 · Werken met Model Replies
Werken met Model Replies

JSON van het Model Verpakt in Proza

Waarom dit ertoe doet Vraag een model om JSON zonder gestructureerde outputs en je krijgt meestal JSON, maar vaak met een vriendelijke zin eromheen, een code fence, of helemaal niets bruikbaars. Code die json.loads aanroept op de ruwe tekst gaat op de eerste dag kapot.

Vijf antwoorden op "geef me deze velden als JSON", elk een patroon dat echte modellen produceren:

  • schone JSON;
  • JSON binnen een ```json hek met zinnen ervoor en erna;
  • JSON in het midden van een zin;
  • een lijst die was afgekapt bij de tokenlimiet (stop_reason is "max_tokens"), dus de JSON is kapot;
  • geen JSON helemaal: het model legde uit waarom het dit niet kon doen.

De robuuste reader: eerst check stop_reason (een afgebroken antwoord kan niet worden vertrouwd zelfs als het toevallig wel wordt geparsed), neem dan de tekst, snijd het gedeelte uit van de eerste { of [ tot de bijbehorende laatste } of ], en parse dat. Alles wat nog steeds faalt is een fout om te rapporteren, nooit iets om over te gokken. (In productie beperken gestructureerde outputs het model tot geldige JSON en verwijderen de meeste van deze zaken; je checkt nog steeds stop_reason.)

Over deze antwoorden: ze zijn gesimuleerd. Elk is geschreven voor deze cursus in precies de vorm die de Claude Messages API teruggeeft (content blocks, stop_reason, usage), en elk kopieert iets wat echte modellen doen. Het zijn geen opnames van een live model, dus de exacte formulering is van ons; de vormen en de problemen zijn de echte problemen waar je code tegenaan zal komen.

Jij bent aan de beurt

Schrijf parse_json_reply(reply). Gooi een ValueError als stop_reason gelijk is aan "max_tokens". Voeg anders de tekstblokken samen, snijd vanaf de eerste { of [ (welke het eerst komt) tot de laatste bijpassende } of ], en geef json.loads van dat stuk terug. Gooi een ValueError als er geen JSON is of als die niet te lezen is. Laat REPLIES uit de startcode zoals het is: de controle leest het.

Een probleem ontdekt in deze les? Meld het · Vraag naar deze les

Deze oefening opent binnenkort

Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.