Lehrplan Lektion 214 von 250 · Projekt: Customer Support Copilot
Projekt: Customer Support Copilot

Abrufen + Erstelle den Grounded Prompt

Retrieval funktioniert -- du kannst die richtigen Artikel finden. Jetzt kommt der Schritt, der RAG vertrauenswürdig statt zu einem selbstbewussten Lügner macht: grounding. Du gibst dem Sprachmodell den abgerufenen Text und weist es an, only aus diesem Text zu beantworten und dies zu sagen, wenn die Antwort nicht enthalten ist. Das Modell sieht deine Rohdokumente nie; es sieht den prompt, den du zusammenstellst. Also ist der prompt is das Produkt. Diese Lektion baut diesen prompt.

Hier werden Halluzinationen gewonnen oder verloren. Ein Support-Bot, der ein Rückgabezeitfenster erfindet, ist schlimmer als nutzlos. Er ist eine Haftung. Die Lösung ist ein disziplinierter Prompt mit drei Teilen: die abgerufenen Chunks abgegrenzt und nummeriert, damit das Modell sie zitieren kann, die Frage des Nutzers und ein expliziter escape hatch für den Fall, dass der Kontext die Antwort nicht enthält.

Schreibe eine Funktion:

assemble_prompt(query, retrieved_chunks)  # -> the full prompt string

Es muss in dieser Reihenfolge:

  • Gib die Regel an, dass der Assistent nur den unten stehenden Kontext verwendet.
  • Füge diese Zeile exakt, Zeichen für Zeichen ein: If the answer is not in the context, reply exactly: I do not know.
  • Öffne einen CONTEXT: Abschnitt, dann liste jeden Chunk nummeriert und eingezäunt auf, wie [1] gefolgt vom Chunk Text zwischen dreifachen Anführungszeichen, dann [2], und so weiter -- in der gegebenen Reihenfolge.
  • Füge die Frage des Benutzers in einer QUESTION: Zeile hinzu.
  • Ende auf einer offenen answer turn -- eine finale ANSWER: Zeile mit nichts danach, damit das Modell die Antwort als Nächstes schreibt.

Die Nummerierung ist wichtig: Sie ermöglicht es dem Modell (und der nächsten Lektion), welche Quelle eine Behauptung stammt. Die exakte Escape-Zeile ist ebenfalls wichtig. Der nachfolgende Code wird nach diesem präzisen Sentinel suchen, um eine Verweigerung zu erkennen, also zerstört eine Paraphrase alles.

Behandle den missing-context Fall: Wenn retrieved_chunks leer ist, erzeugst du trotzdem einen gültigen prompt (instruction, die escape line, einen leeren context, die question und den open answer turn) -- das Modell wird dann korrekt mit dem sentinel antworten. Der Live LLM Call ist nicht Teil dieser Übung; du baust den String, den es erhalten würde. Drücke Run um einen grounded prompt zu drucken und lies ihn so wie das Modell es tun würde.

Du bist dran

Schreibe assemble_prompt(query, retrieved_chunks), das die vollständige grounded prompt string zurückgibt: eine Anweisung, nur aus dem Kontext zu antworten, die exakte Zeile If the answer is not in the context, reply exactly: I do not know., einen CONTEXT: Abschnitt mit jedem chunk nummeriert [1], [2], ... und in dreifachen Anführungszeichen in der richtigen Reihenfolge eingeschlossen, eine QUESTION: Zeile und einen finalen offenen ANSWER: turn. Eine leere chunk list liefert immer noch einen gültigen prompt.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.