Programma Les 247 van 250 · Werken met Model Replies
Werken met Model Replies

Afgebroken, geweigerd of buiten de reikwijdte

Waarom dit ertoe doet Een supportbot die een gebruiker een halve zin of een lege bubbel laat zien, lijkt kapot. Bepaal voordat je een antwoord laat zien welk soort antwoord het is.

De app hier is een bankassistent waarvan de system prompt zegt: beantwoord alleen vragen over rekeningen en kaarten, en reageer op alles anders met precies OUT_OF_SCOPE. Vijf reacties:

  • a normaal antwoord;
  • OUT_OF_SCOPE precies zoals gevraagd;
  • hetzelfde signaal los geschreven (Out_of_scope. met een nieuwe regel): modellen volgen "beantwoord exact" bijnaaltijd, dus match het met wat tolerantie (negeer hoofdletters, spaties en een afsluitende punt);
  • een antwoord is afgebroken bij de tokenlimiet;
  • a refusal: stop_reason is "refusal", de inhoud is leeg, en een stop_details dictionary kan zeggen waarom.

Elk soort heeft een ander scherm nodig: toon het antwoord, toon "Ik kan alleen helpen met bankieren", vraag het model om door te gaan of opnieuw te proberen met een hogere limiet, of toon een beleefde weigering.

Over deze antwoorden: ze zijn gesimuleerd. Elk is geschreven voor deze cursus in precies de vorm die de Claude Messages API teruggeeft (content blocks, stop_reason, usage), en elk kopieert iets wat echte modellen doen. Het zijn geen opnames van een live model, dus de exacte formulering is van ons; de vormen en de problemen zijn de echte zaken waar je code tegenaan zal komen.

Jij bent aan de beurt

Schrijf classify_reply(reply) waarbij je één van de volgende teruggeeft: "refused" (stop_reason is "refusal"), "cut_off" (stop_reason is "max_tokens"), "out_of_scope" (de tekst, met omliggende spaties en een afsluitende . verwijderd, is gelijk aan OUT_OF_SCOPE negeer hoofdlettergevoeligheid), "empty" (geen tekst helemaal), of "answer". Controleer ze in die volgorde. Houd de REPLIES van de starter zoals deze is: de check leest deze.

Een probleem ontdekt in deze les? Meld het · Vraag naar deze les

Deze oefening opent binnenkort

Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.