Assembler le prompt ancré
La recherche a trouvé les bons morceaux ; maintenant tu dois dire au modèle de les utiliser, et rien d'autre. C'est l'étape d'assemblage du prompt, et c'est là que l'ancrage est imposé. Un prompt ancré fait trois choses : il présente clairement le contexte récupéré, il demande au modèle de ne répondre qu'à partir de ce contexte, et il donne au modèle une porte de sortie pour qu'il puisse avouer son ignorance au lieu d'inventer une réponse.
Numéroter les morceaux compte pour deux raisons : ça les sépare visuellement pour que le modèle ne mélange pas deux passages, et ça lui permet de citer « [2] » si tu demandes plus tard des citations. La ligne de porte de sortie est l'autre moitié du garde-fou de refus de la leçon précédente : même quand la recherche est correcte, la réponse précise peut ne pas être dans le texte, et un modèle à qui l'on dit exactement quoi répondre quand il ne sait pas hallucine beaucoup moins.
System: Answer the question using only the context below.
If the answer is not in the context, reply exactly: I don't know.
Context:
[1] Refunds are issued within five business days...
[2] Shipping takes 5 to 7 business days...
Question: how long do refunds take?
Assistant:Cette dernière ligne Assistant: est le tour ouvert : c'est là que le modèle commence à écrire. (Dans ton navigateur, le WebLLM sur l'appareil prendrait exactement cette chaîne et produirait la réponse. Tu n'es noté que sur la chaîne que tu assembles, jamais sur la réponse du modèle, car c'est la partie déterministe que tu construis vraiment.)
À construire. Écris build_rag_prompt(query, contexts) où contexts est une liste de chaînes de morceaux. Le prompt renvoyé doit :
- Contenir chaque morceau de contexte, numéroté à partir de 1 sous la forme
[1] ...,[2] ..., dans l'ordre. - Contenir l'instruction exacte de répondre en n'utilisant que le contexte.
- Contenir la porte de sortie exacte
I don't know.(la réponse demandée au modèle quand la réponse est absente). - Contenir le texte de
query. - Finir sur un tour de réponse ouvert (la dernière ligne non vide est le marqueur
Assistant:).
Appuie sur Run pour assembler un prompt à partir de deux morceaux récupérés et le relire.
Écris build_rag_prompt(query, contexts) qui renvoie une chaîne de prompt ancré. Elle doit numéroter chaque morceau de contexte sous la forme [1] ..., [2] ... dans l'ordre, inclure une instruction de ne répondre qu'à partir du contexte, inclure la porte de sortie exacte I don't know., inclure query, et finir sur un tour Assistant: ouvert.
Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon
Cet exercice s'ouvre bientôt
Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.
Ce navigateur bloque les cookies pour learn.floati.life, donc les leçons que tu as terminées ici ne peuvent pas s'ouvrir dans l'ordre. Autorise les cookies pour ce site et recharge la page.