Coupée, refusée ou hors sujet
Pourquoi c'est important Un bot de support qui montre une demi-phrase à un utilisateur, ou une bulle vide, a l'air cassé. Avant d'afficher une réponse, décide de quel genre de réponse il s'agit.
L'appli ici est un assistant bancaire dont le prompt système dit : réponds seulement aux questions sur les comptes et les cartes, et pour tout le reste réponds exactement OUT_OF_SCOPE. Cinq réponses :
- une réponse normale ;
OUT_OF_SCOPEexactement comme demandé ;- le même signal écrit plus librement (
Out_of_scope.avec un retour à la ligne) : les modèles suivent « réponds exactement » presque toujours, donc compare avec un peu de tolérance (ignore la casse, les espaces et un point final) ; - une réponse coupée à la limite de tokens ;
- un refus :
stop_reasonvaut"refusal", le contenu est vide, et un dictstop_detailspeut dire pourquoi.
Chaque genre demande un écran différent : afficher la réponse, afficher « Je ne peux aider que pour la banque », demander au modèle de continuer ou réessayer avec une limite plus haute, ou afficher un refus poli.
À propos de ces réponses : elles sont simulées. Chacune a été écrite pour ce cours exactement dans la forme que renvoie l'API Messages de Claude (blocs de contenu, stop_reason, usage), et chacune reproduit quelque chose que font les vrais modèles. Ce ne sont pas des enregistrements d'un modèle en direct, donc la formulation exacte est la nôtre ; les formes et les problèmes sont bien ceux que ton code rencontrera.
Écris classify_reply(reply) qui renvoie l'un de "refused" (stop_reason vaut "refusal"), "cut_off" (stop_reason vaut "max_tokens"), "out_of_scope" (le texte, sans les espaces autour ni un . final, est égal à OUT_OF_SCOPE sans tenir compte de la casse), "empty" (aucun texte), ou "answer". Vérifie-les dans cet ordre. Garde REPLIES du code de départ tel quel : la vérification le lit.
Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon
Cet exercice s'ouvre bientôt
Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.
Ce navigateur bloque les cookies pour learn.floati.life, donc les leçons que tu as terminées ici ne peuvent pas s'ouvrir dans l'ordre. Autorise les cookies pour ce site et recharge la page.