Skilskemer, Gronding en Anti-Hallusinasie
Die een mees effektiewe manier om 'n model te verhoed om dinge uit te dink is grounding: gee dit die bronmateriaal, omsingel dit met duidelike delimiters, en instrueer dit om only uit daardie materiaal te antwoord, met 'n duidelike uitgang wanneer die antwoord nie daar is nie. Dit is die kern van elke retrieval-augmented stelsel, en dit is alles prompt konstruksie.
Bou grounded_prompt(question, context_chunks) wat dit saamstel:
- A
CONTEXT:afdeling met elke stukkie genommer en omsingel, soos[1] ...,[2] .... - Die vraag na die konteks.
- 'n presiese instruksie om slegs uit die konteks te antwoord, wat eindig met die uitgang: as die antwoord nie in die konteks is nie, antwoord presies
I don't know. - A agtersteen oop antwoord beurt sodat die model weet om te reageer.
Bou dan die checker. check_grounded(answer, context_chunks) gee True terug wanneer die antwoord gegrond is: dit is óf presies die I don't know. sentinel, ÓF elke betekenisvolle woord in die antwoord verskyn in die saamgevoegde konteks. Dit gee False terug wanneer die antwoord uitgedinkte woorde bevat wat die konteks nooit genoem het nie.
ctx = ["The capital of France is Paris."]
check_grounded("The capital is Paris.", ctx) # True
check_grounded("I don't know.", ctx) # True (honest)
check_grounded("The capital is Berlin.", ctx) # False (invented)Ignore klein stopwords (the, is, a, of...) wanneer jy beduidende woorde nagaan, sodat normale sinsbou nie gestraf word nie, maar 'n inhoudswoord soos Berlin wat nooit in die konteks verskyn nie, moet die kontrole korrek misluk. Druk Run om te gradeer.
Skryf grounded_prompt(question, context_chunks) wat nommers en omsluit die blokke onder CONTEXT:, voeg die vraag by, eis 'n antwoord slegs uit die konteks met die presiese ontsnappingsweg I don't know., en eindig op 'n oop antwoordbeurt. Presiese uitleg, reëls verbind met "\n": CONTEXT:, dan een lyn per blok geskryf as [1] chunk text, [2] ..., 'n leë lyn, Question: ..., die instruksiereël (dit moet I don't know. bevat), en uiteindelik die oop antwoordbeurt [assistant]. Skryf check_grounded(answer, context_chunks) wat True teruggee vir die sentinel OF wanneer elke beduidende (nie-stopwoord) antwoordwoord in die verbinde konteks is, anders False.
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.