Het samenstellen van de Grounded Prompt
Retrieval vond de juiste chunks; nu moet je het model vertellen om ze te gebruiken en niets anders. Dit is de prompt-assembly stap, en dit is waar grounding wordt afgedwongen. Een grounded prompt doet drie taken: het presenteert de retrieved context duidelijk, het instrueert het model om alleen vanuit die context te antwoorden, en het geeft het model een uitweg zodat het onwetendheid kan bekennen in plaats van een antwoord te verzinnen.
Het nummeren van de stukken is om twee redenen belangrijk: het scheidt ze visueel zodat het model twee passages niet vermengt, en het laat het model "[2]" citeren als je later om bronnen vraagt. De escape-hatch regel is de andere helft van de refusal guardrail uit de vorige les: zelfs als retrieval redelijk is, staat het specifieke antwoord misschien niet in de tekst, en een model dat exactly krijgt te zeggen wanneer het het niet weet, zal veel minder snel hallucineren.
System: Answer the question using only the context below.
If the answer is not in the context, reply exactly: I don't know.
Context:
[1] Refunds are issued within five business days...
[2] Shipping takes 5 to 7 business days...
Question: how long do refunds take?
Assistant:Die laatste Assistant: regel is de open turn: dit is waar het model begint met schrijven. (In je browser zou de on-device WebLLM deze exacte string nemen en het antwoord produceren. Je wordt alleen beoordeeld op de string die je samenstelt, nooit op de reactie van het model, wat het deterministische deel is dat je daadwerkelijk ontwerpt.)
Wat je moet bouwen. Schrijf build_rag_prompt(query, contexts) waar contexts een lijst van chunk strings is. De geretourneerde prompt moet:
- Bevat elk contextblok, genummerd beginnend bij 1 als
[1] ...,[2] ...in volgorde. - Bevat de exacte instructie om alleen de context te gebruiken om te antwoorden.
- Bevat de exacte escape hatch
I don't know.(de door het model geïnstrueerde reactie wanneer het antwoord ontbreekt). - Bevat de
querytekst. - Eindig op een open antwoordbeurt (de laatste niet-lege regel is de
Assistant:marker).
Druk Run om een prompt samen te stellen uit twee opgehaalde chunks en lees deze terug.
Schrijf build_rag_prompt(query, contexts) dat een grounded prompt string teruggeeft. Het moet elk contextstuk nummeren als [1] ..., [2] ... in volgorde, een instructie bevatten om alleen de context te gebruiken, de exacte escape hatch I don't know. bevatten, de query bevatten, en eindigen op een open Assistant: turn.
Een probleem ontdekt in deze les? Meld het · Vraag naar deze les
Deze oefening opent binnenkort
Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.
Deze browser blokkeert cookies voor learn.floati.life, dus lessen die je hier hebt afgerond kunnen niet in de juiste volgorde worden geopend. Sta cookies toe voor deze site en laad de pagina opnieuw.