Programma Les 214 van 250 · Project: copiloot voor klantenservice
Project: copiloot voor klantenservice

Haal op + Bouw de Grounded Prompt

Retrieval werkt -- je kunt de juiste artikelen vinden. Nu komt de stap die RAG betrouwbaar maakt in plaats van een zelfverzekerde leugenaar: grounding. Je geeft het taalmodel de opgehaalde tekst en instrueert het om only uit die tekst te beantwoorden, en om dat te zeggen als het antwoord er niet in staat. Het model ziet nooit je ruwe documenten; het ziet de prompt die je samenstelt. Dus de prompt is het product. Deze les bouwt die prompt.

Hier win of verlies je bij hallucinaties. Een support bot die een restitutieperiode verzint is erger dan nutteloos. Het is een risico. De oplossing is een gedisciplineerde prompt met drie delen: de opgehaalde chunks omheind en genummerd zodat het model ze kan citeren, de vraag van de gebruiker, en een expliciete escape hatch voor wanneer de context het antwoord niet bevat.

Schrijf één functie:

assemble_prompt(query, retrieved_chunks)  # -> the full prompt string

Het moet, in deze volgorde:

  • Geef de regel op dat de assistent alleen de context hieronder gebruikt.
  • Voeg deze regel exact in, teken voor teken: If the answer is not in the context, reply exactly: I do not know.
  • Open een CONTEXT: sectie, en lijst elk stuk genummerd en omheind op, zoals [1] gevolgd door de tekst van het stuk tussen drievoudige aanhalingstekens, dan [2], enzovoort -- in de gegeven volgorde .
  • Voeg de vraag van de gebruiker toe op een QUESTION: regel.
  • Eindig op een open answer turn -- een laatste ANSWER: line met niets daarna, zodat het model het antwoord daarna schrijft.

Nummering is belangrijk: het zorgt ervoor dat het model (en de volgende les) kan citeren welke bron een bewering van kwam. De exacte escape regel is ook belangrijk. De code daarnaast zoekt naar die precieze sentinel om een weigering te detecteren, dus een parafrase breekt alles.

Behandel de missing-context situatie: als retrieved_chunks leeg is, maak je nog steeds een geldige prompt (instructie, de escape line, een lege context, de vraag en de open answer turn) -- het model zal dan correct antwoorden met de sentinel. De live LLM call is geen onderdeel van deze oefening; je bouwt de string die het zou ontvangen. Druk op Run om een grounded prompt af te drukken en lees deze zoals het model zou doen.

Jij bent aan de beurt

Schrijf assemble_prompt(query, retrieved_chunks) dat de volledige grounded prompt string teruggeeft: een instructie om alleen vanuit de context te antwoorden, de exacte regel If the answer is not in the context, reply exactly: I do not know., een CONTEXT: sectie met elk stuk genummerd [1], [2], ... en omheind in drievoudige offerhaaktekens in volgorde, een QUESTION: regel, en een laatste open ANSWER: turn. Een lege stuk lijst geeft nog steeds een geldige prompt.

Een probleem ontdekt in deze les? Meld het · Vraag naar deze les

Deze oefening opent binnenkort

Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.