Haal op + Bouw de Grounded Prompt
Retrieval werkt -- je kunt de juiste artikelen vinden. Nu komt de stap die RAG betrouwbaar maakt in plaats van een zelfverzekerde leugenaar: grounding. Je geeft het taalmodel de opgehaalde tekst en instrueert het om only uit die tekst te beantwoorden, en om dat te zeggen als het antwoord er niet in staat. Het model ziet nooit je ruwe documenten; het ziet de prompt die je samenstelt. Dus de prompt is het product. Deze les bouwt die prompt.
Hier win of verlies je bij hallucinaties. Een support bot die een restitutieperiode verzint is erger dan nutteloos. Het is een risico. De oplossing is een gedisciplineerde prompt met drie delen: de opgehaalde chunks omheind en genummerd zodat het model ze kan citeren, de vraag van de gebruiker, en een expliciete escape hatch voor wanneer de context het antwoord niet bevat.
Schrijf één functie:
assemble_prompt(query, retrieved_chunks) # -> the full prompt stringHet moet, in deze volgorde:
- Geef de regel op dat de assistent alleen de context hieronder gebruikt.
- Voeg deze regel exact in, teken voor teken:
If the answer is not in the context, reply exactly: I do not know. - Open een
CONTEXT:sectie, en lijst elk stuk genummerd en omheind op, zoals[1]gevolgd door de tekst van het stuk tussen drievoudige aanhalingstekens, dan[2], enzovoort -- in de gegeven volgorde . - Voeg de vraag van de gebruiker toe op een
QUESTION:regel. - Eindig op een open answer turn -- een laatste
ANSWER:line met niets daarna, zodat het model het antwoord daarna schrijft.
Nummering is belangrijk: het zorgt ervoor dat het model (en de volgende les) kan citeren welke bron een bewering van kwam. De exacte escape regel is ook belangrijk. De code daarnaast zoekt naar die precieze sentinel om een weigering te detecteren, dus een parafrase breekt alles.
Behandel de missing-context situatie: als retrieved_chunks leeg is, maak je nog steeds een geldige prompt (instructie, de escape line, een lege context, de vraag en de open answer turn) -- het model zal dan correct antwoorden met de sentinel. De live LLM call is geen onderdeel van deze oefening; je bouwt de string die het zou ontvangen. Druk op Run om een grounded prompt af te drukken en lees deze zoals het model zou doen.
Schrijf assemble_prompt(query, retrieved_chunks) dat de volledige grounded prompt string teruggeeft: een instructie om alleen vanuit de context te antwoorden, de exacte regel If the answer is not in the context, reply exactly: I do not know., een CONTEXT: sectie met elk stuk genummerd [1], [2], ... en omheind in drievoudige offerhaaktekens in volgorde, een QUESTION: regel, en een laatste open ANSWER: turn. Een lege stuk lijst geeft nog steeds een geldige prompt.
Een probleem ontdekt in deze les? Meld het · Vraag naar deze les
Deze oefening opent binnenkort
Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.
Deze browser blokkeert cookies voor learn.floati.life, dus lessen die je hier hebt afgerond kunnen niet in de juiste volgorde worden geopend. Sta cookies toe voor deze site en laad de pagina opnieuw.