Kurrikulum Leson 133 van 250 · Prompt Engineering vir KI-ingenieurs
Prompt Engineering vir KI-ingenieurs

Skilskemer, Gronding en Anti-Hallusinasie

Die een mees effektiewe manier om 'n model te verhoed om dinge uit te dink is grounding: gee dit die bronmateriaal, omsingel dit met duidelike delimiters, en instrueer dit om only uit daardie materiaal te antwoord, met 'n duidelike uitgang wanneer die antwoord nie daar is nie. Dit is die kern van elke retrieval-augmented stelsel, en dit is alles prompt konstruksie.

Bou grounded_prompt(question, context_chunks) wat dit saamstel:

  • A CONTEXT: afdeling met elke stukkie genommer en omsingel, soos [1] ..., [2] ....
  • Die vraag na die konteks.
  • 'n presiese instruksie om slegs uit die konteks te antwoord, wat eindig met die uitgang: as die antwoord nie in die konteks is nie, antwoord presies I don't know.
  • A agtersteen oop antwoord beurt sodat die model weet om te reageer.

Bou dan die checker. check_grounded(answer, context_chunks) gee True terug wanneer die antwoord gegrond is: dit is óf presies die I don't know. sentinel, ÓF elke betekenisvolle woord in die antwoord verskyn in die saamgevoegde konteks. Dit gee False terug wanneer die antwoord uitgedinkte woorde bevat wat die konteks nooit genoem het nie.

ctx = ["The capital of France is Paris."]
check_grounded("The capital is Paris.", ctx)            # True
check_grounded("I don't know.", ctx)                    # True (honest)
check_grounded("The capital is Berlin.", ctx)           # False (invented)

Ignore klein stopwords (the, is, a, of...) wanneer jy beduidende woorde nagaan, sodat normale sinsbou nie gestraf word nie, maar 'n inhoudswoord soos Berlin wat nooit in die konteks verskyn nie, moet die kontrole korrek misluk. Druk Run om te gradeer.

Wees eerlik oor wat dit vang: containment flags invented tokens (woorde wat die konteks nooit genoem het), maar dit kan nie 'n vals bewering vang wat uit werklike kontekswoorde herkomponeer is nie. "Refunds take France business days" sal hier deurgaan al is dit onsin, omdat elke woord in die konteks is. Ware getrouheidstoetsing het 'n LLM-judge of 'n NLI (entailment) model nodig wat oor betekenis redeneer, nie net woordlidskap nie.

Jou beurt

Skryf grounded_prompt(question, context_chunks) wat nommers en omsluit die blokke onder CONTEXT:, voeg die vraag by, eis 'n antwoord slegs uit die konteks met die presiese ontsnappingsweg I don't know., en eindig op 'n oop antwoordbeurt. Presiese uitleg, reëls verbind met "\n": CONTEXT:, dan een lyn per blok geskryf as [1] chunk text, [2] ..., 'n leë lyn, Question: ..., die instruksiereël (dit moet I don't know. bevat), en uiteindelik die oop antwoordbeurt [assistant]. Skryf check_grounded(answer, context_chunks) wat True teruggee vir die sentinel OF wanneer elke beduidende (nie-stopwoord) antwoordwoord in die verbinde konteks is, anders False.

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.