Programme Leçon 247 sur 250 · Travailler avec les réponses du modèle
Travailler avec les réponses du modèle

Coupée, refusée ou hors sujet

Pourquoi c'est important Un bot de support qui montre une demi-phrase à un utilisateur, ou une bulle vide, a l'air cassé. Avant d'afficher une réponse, décide de quel genre de réponse il s'agit.

L'appli ici est un assistant bancaire dont le prompt système dit : réponds seulement aux questions sur les comptes et les cartes, et pour tout le reste réponds exactement OUT_OF_SCOPE. Cinq réponses :

  • une réponse normale ;
  • OUT_OF_SCOPE exactement comme demandé ;
  • le même signal écrit plus librement (Out_of_scope. avec un retour à la ligne) : les modèles suivent « réponds exactement » presque toujours, donc compare avec un peu de tolérance (ignore la casse, les espaces et un point final) ;
  • une réponse coupée à la limite de tokens ;
  • un refus : stop_reason vaut "refusal", le contenu est vide, et un dict stop_details peut dire pourquoi.

Chaque genre demande un écran différent : afficher la réponse, afficher « Je ne peux aider que pour la banque », demander au modèle de continuer ou réessayer avec une limite plus haute, ou afficher un refus poli.

À propos de ces réponses : elles sont simulées. Chacune a été écrite pour ce cours exactement dans la forme que renvoie l'API Messages de Claude (blocs de contenu, stop_reason, usage), et chacune reproduit quelque chose que font les vrais modèles. Ce ne sont pas des enregistrements d'un modèle en direct, donc la formulation exacte est la nôtre ; les formes et les problèmes sont bien ceux que ton code rencontrera.

À ton tour

Écris classify_reply(reply) qui renvoie l'un de "refused" (stop_reason vaut "refusal"), "cut_off" (stop_reason vaut "max_tokens"), "out_of_scope" (le texte, sans les espaces autour ni un . final, est égal à OUT_OF_SCOPE sans tenir compte de la casse), "empty" (aucun texte), ou "answer". Vérifie-les dans cet ordre. Garde REPLIES du code de départ tel quel : la vérification le lit.

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.