Den Grounded Prompt zusammenstellen
Retrieval hat die richtigen Chunks gefunden; jetzt musst du dem Modell sagen, sie zu verwenden und nichts anderes. Dies ist der Prompt-Assembly-Schritt, und hier wird Grounding erzwungen. Ein grounded Prompt erledigt drei Aufgaben: Er präsentiert den abgerufenen Kontext klar, er weist das Modell an, nur aus diesem Kontext zu antworten, und er gibt dem Modell einen Ausweg, damit es Unwissenheit zugeben kann, anstatt eine Antwort zu erfinden.
Die Nummerierung der Chunks ist aus zwei Gründen wichtig: Sie trennt sie visuell, damit das Modell zwei Passagen nicht vermischt, und sie erlaubt dem Modell, "[2]" zu zitieren, falls du später nach Quellen fragst. Die Escape-Hatch-Zeile ist die andere Hälfte der Refusal Guardrail aus der letzten Lektion: Selbst wenn Retrieval ordentlich ist, könnte die spezifische Antwort nicht im Text stehen, und ein Modell, dem man exactly sagt, was es sagen soll, wenn es nichts weiß, halluziniert viel seltener.
System: Answer the question using only the context below.
If the answer is not in the context, reply exactly: I don't know.
Context:
[1] Refunds are issued within five business days...
[2] Shipping takes 5 to 7 business days...
Question: how long do refunds take?
Assistant:Diese abschließende Assistant: Zeile ist die offene Wende: hier beginnt das Modell mit dem Schreiben. (In deinem Browser würde das On-Device WebLLM genau diese Zeichenfolge nehmen und die Antwort erzeugen. Du wirst nur auf die Zeichenfolge bewertet, die du zusammenbaust, niemals auf die Antwort des Modells, was der deterministische Teil ist, den du tatsächlich entwickelst.)
Was zu bauen ist. Schreibe build_rag_prompt(query, contexts) wo contexts eine Liste von Chunk-Strings ist. Der zurückgegebene Prompt muss:
- Enthält jeden Kontextabschnitt, nummeriert beginnend bei 1 als
[1] ...,[2] ...in der Reihenfolge. - Enthält die genaue Anweisung, nur den Kontext zu verwenden, um zu antworten.
- Enthält die exakte Escape Hatch
I don't know.(die vom Modell angegebene Antwort, wenn die Antwort fehlt). - Enthält den
queryText. - Beende auf einer offenen Antwortwende (die letzte nicht leere Zeile ist der
Assistant:Marker).
Drücke Run, um einen Prompt aus zwei abgerufenen Chunks zusammenzustellen und ihn zurückzulesen.
Schreibe build_rag_prompt(query, contexts), das eine grounded prompt string zurückgibt. Es muss jeden context chunk nacheinander als [1] ..., [2] ... nummerieren, eine Anweisung enthalten, nur den context zu verwenden, die exakte escape hatch I don't know. enthalten, die query enthalten und mit einem offenen Assistant: turn enden.
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.