Haal op + Bou die Grounded Prompt
Retrieval werk -- jy kan die regte artikele vind. Nou kom die skuif wat RAG betroubaar maak in plaas van 'n selfversekerde leuenaar: grounding. Jy gee die taalmodel die ingehaalde teks en instrueer dit om only uit daardie teks te antwoord, en om dit te sê wanneer die antwoord nie daar is nie. Die model sien nooit jou rou dokumente nie; dit sien die prompt wat jy saamstel. So die prompt is die produk. Hierdie les bou daardie prompt.
Hier is waar hallusinasies gewen of verloor word. 'n Ondersteuningsbot wat 'n terugbetalingsvenster uitvind is erger as nutloos. Dit is 'n aanspreeklikheid. Die oplossing is 'n gedissiplineerde prompt met drie dele: die verkryde stukke omsloot en genommer sodat die model hulle kan aanhaal, die gebruiker se vraag, en 'n eksplisiete escape hatch vir wanneer die konteks nie die antwoord bevat nie.
Skryf een funksie:
assemble_prompt(query, retrieved_chunks) # -> the full prompt stringDit moet, in volgorde:
- Sê die reël dat die assistent slegs die konteks hieronder gebruik om te antwoord.
- Sluit hierdie reël presies in, karakter vir karakter:
If the answer is not in the context, reply exactly: I do not know. - Maak 'n
CONTEXT:afdeling, dan lys elke stuk met nommers en heininge op, soos[1]gevolg deur die stuk teks tussen trippel aanhalingstekens, dan[2], en so voort-- in die volgorde wat gegee word. - Voeg die gebruiker se vraag op 'n
QUESTION:lyn by. - Eindig op 'n oop antwoordedraai -- 'n finale
ANSWER:reël met niks daarna nie, sodat die model die antwoord volgende skryf.
Die nommering is belangrik: dit laat die model (en die volgende les) welke bron 'n bewering van kom, aanhaal. Die presiese escape-reël is ook belangrik. Die kode daarna sal presies na daardie sentinel soek om 'n weiering te sien, so 'n parafrase breek alles.
Hanteer die missing-context geval: as retrieved_chunks leeg is, produseer jy steeds 'n geldige prompt (instruksie, die escape-lyn, 'n leë konteks, die vraag, en die oop antwoord-beurt) -- die model sal dan korrek met die sentinel antwoord. Die lewendige LLM-oproep is nie deel van hierdie oefening nie; jy bou die string wat dit sou ontvang. Druk Run om 'n gegrondde prompt te druk en lees dit soos die model sou doen.
Skryf assemble_prompt(query, retrieved_chunks) wat die volledige gegronderde prompt-string teruggee: 'n instruksie om slegs uit konteks te antwoord, die presiese lyn If the answer is not in the context, reply exactly: I do not know., 'n CONTEXT:-afdeling met elke stuk genommer [1], [2], ... en omsingel deur tripelaanhalings in volgorde, 'n QUESTION:-lyn, en 'n finale oop ANSWER:-beurt. 'n Leë stuklys lewer steeds 'n geldige prompt op.
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.