Bou die Grounded Prompt
Retrieval het die regte stukke gevind; nou moet jy die model vertel om hulle te gebruik en niks anders nie. Dit is die prompt-assembly stap, en dit is waar grounding afgedwing word. 'n Grounded prompt doen drie take: dit bied die ingehaalde konteks duidelik aan, dit instrueer die model om slegs uit daardie konteks te antwoord, en dit gee die model 'n uitgang sodat dit onkunde kan erken in plaas daarvan om 'n antwoord te verbeel.
Nommering van die blokke is belangrik vir twee redes: dit skei hulle visueel sodat die model nie twee gedeeltes saamvloei nie, en dit laat die model "[2]" aanhaal as jy later vir bronne vra. Die escape-hatch lyn is die ander helfte van die refusal guardrail van die vorige les: selfs wanneer retrieval goed is, is die spesifieke antwoord dalk nie in die teks nie, en 'n model wat exactly vertel wat om te sê wanneer dit nie weet nie, is baie minder geneig om te hallucineer.
System: Answer the question using only the context below.
If the answer is not in the context, reply exactly: I don't know.
Context:
[1] Refunds are issued within five business days...
[2] Shipping takes 5 to 7 business days...
Question: how long do refunds take?
Assistant:Da laaste Assistant: lyn is die oop draai: dit is waar die model begin skryf. (In jou bl brasileiros sal die on-device WebLLM hierdie presiese string neem en die antwoord produseer. Jy word net beoordeel op die string wat jy saamstel, nooit op die model se antwoord nie, wat die deterministiese deel is wat jy werklik ontwerp.)
Wat om te bou. Skryf build_rag_prompt(query, contexts) waar contexts 'n lys van chunk strings is. Die teruggegee prompt moet:
- Bevat elke konteksstuk, genommer vanaf 1 as
[1] ...,[2] ...in volgorde. - Bevat die presiese instruksie om slegs die konteks te gebruik om te antwoord.
- Bevat die presiese escape hatch
I don't know.(die model se ingestelde antwoord wanneer die antwoord afwesig is). - Bevat die
queryteks. - Eindig op 'n oop antwoordwending (die laaste nie-leë reël is die
Assistant:-merker).
Druk Run om 'n prompt uit twee verkryde stukke saam te stel en dit terug te lees.
Skryf build_rag_prompt(query, contexts) wat 'n gegronderde prompt-string teruggee. Dit moet elke konteksblok as [1] ..., [2] ... in volgorde nommer, 'n instruksie insluit om slegs die konteks te gebruik, die presiese escape hatch I don't know. insluit, die query insluit, en eindig op 'n oop Assistant: beurt.
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.