Abrufen + Erstelle den Grounded Prompt
Retrieval funktioniert -- du kannst die richtigen Artikel finden. Jetzt kommt der Schritt, der RAG vertrauenswürdig statt zu einem selbstbewussten Lügner macht: grounding. Du gibst dem Sprachmodell den abgerufenen Text und weist es an, only aus diesem Text zu beantworten und dies zu sagen, wenn die Antwort nicht enthalten ist. Das Modell sieht deine Rohdokumente nie; es sieht den prompt, den du zusammenstellst. Also ist der prompt is das Produkt. Diese Lektion baut diesen prompt.
Hier werden Halluzinationen gewonnen oder verloren. Ein Support-Bot, der ein Rückgabezeitfenster erfindet, ist schlimmer als nutzlos. Er ist eine Haftung. Die Lösung ist ein disziplinierter Prompt mit drei Teilen: die abgerufenen Chunks abgegrenzt und nummeriert, damit das Modell sie zitieren kann, die Frage des Nutzers und ein expliziter escape hatch für den Fall, dass der Kontext die Antwort nicht enthält.
Schreibe eine Funktion:
assemble_prompt(query, retrieved_chunks) # -> the full prompt stringEs muss in dieser Reihenfolge:
- Gib die Regel an, dass der Assistent nur den unten stehenden Kontext verwendet.
- Füge diese Zeile exakt, Zeichen für Zeichen ein:
If the answer is not in the context, reply exactly: I do not know. - Öffne einen
CONTEXT:Abschnitt, dann liste jeden Chunk nummeriert und eingezäunt auf, wie[1]gefolgt vom Chunk Text zwischen dreifachen Anführungszeichen, dann[2], und so weiter -- in der gegebenen Reihenfolge. - Füge die Frage des Benutzers in einer
QUESTION:Zeile hinzu. - Ende auf einer offenen answer turn -- eine finale
ANSWER:Zeile mit nichts danach, damit das Modell die Antwort als Nächstes schreibt.
Die Nummerierung ist wichtig: Sie ermöglicht es dem Modell (und der nächsten Lektion), welche Quelle eine Behauptung stammt. Die exakte Escape-Zeile ist ebenfalls wichtig. Der nachfolgende Code wird nach diesem präzisen Sentinel suchen, um eine Verweigerung zu erkennen, also zerstört eine Paraphrase alles.
Behandle den missing-context Fall: Wenn retrieved_chunks leer ist, erzeugst du trotzdem einen gültigen prompt (instruction, die escape line, einen leeren context, die question und den open answer turn) -- das Modell wird dann korrekt mit dem sentinel antworten. Der Live LLM Call ist nicht Teil dieser Übung; du baust den String, den es erhalten würde. Drücke Run um einen grounded prompt zu drucken und lies ihn so wie das Modell es tun würde.
Schreibe assemble_prompt(query, retrieved_chunks), das die vollständige grounded prompt string zurückgibt: eine Anweisung, nur aus dem Kontext zu antworten, die exakte Zeile If the answer is not in the context, reply exactly: I do not know., einen CONTEXT: Abschnitt mit jedem chunk nummeriert [1], [2], ... und in dreifachen Anführungszeichen in der richtigen Reihenfolge eingeschlossen, eine QUESTION: Zeile und einen finalen offenen ANSWER: turn. Eine leere chunk list liefert immer noch einen gültigen prompt.
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.