Buite-omvang Weiering, Bronverwysings & PII
Jou assistent kan inligting ophaal en grond. Maar 'n regte ondersteuningsbot voor kliënte het guardrails nodig, en dit is die les wat 'n demo in iets verander wat jy werklik souontplooi. Drie van hulle, en 'n aanstellingsbestuurder sal na al drie soek:
- Weerlê vrae wat buite die omvang is. As niks in die kennisbasis naby genoeg aan die vraag is nie, moenie improviseer nie. Gee die refusal sentinel terug. Dit is die belangrikste veiligheidsgedrag in RAG.
- Haal bronne aan. Wanneer jy antwoord, sê watter artikel-id's die antwoord ondersteun, sodat 'n mens dit kan verifieer.
- Redigeer PII uit. As jy ooit die gebruiker se teks weerspieël (in 'n log, 'n tiket, 'n prompt), verwyder e-posadresse en telefoonnommers eerste.
Boue weer 'n retriever (hergebruik jou TF-IDF van les 1) en voeg die guardrail-laag by:
answer_or_refuse(query, index) # refuse, or answer WITH citations
redact_pii(text) # mask emails and phone numbersanswer_or_refuse(query, index) tel die punt van die query teen die kennisbasis. As die top similarity onder 'n drempel is, is die vraag buite die omvang -- gee die presiese sentinel I do not know.. Andersins, gee 'n nie-leë antwoordstring wat die cites the source ids wat dit gebruik het. Die grader kontroleer twee dinge oor 'n regte antwoord: dit is nie die sentinel nie, en dit noem die korrekte article id (byvoorbeeld die sitasie vir 'n wagwoordvraag sluit 0 in). 'n Skoon manier om 'n sitasie te formateer is 'n agterste (sources: [0]), maar enige vorm wat die id bevat, werk. (Hierdie capstone skryf dit uit as "I do not know.", waar die RAG module "I don't know." gebruik het. Die presiese woorde saak nie; wat saak maak is dat jou prompt en jou kode saamstem oor een vaste string, karakter vir karakter.)
Hoe om die drempel te stel: met stopwords verwyder, deel 'n vraag wat werklik buite die onderwerp is ("wat is die hoofstad van Frankryk?") geen inhoudwoorde met enige artikel nie, so sy boonste cosine similarity is 0.0. 'n Vraag oor die onderwerp skoort ver bo nul. 'n Klein positiewe drempel soos 0.05 skei hulle duidelik.
redact_pii(text) vervang enige e-pos met [EMAIL] en enige telefoonnommer met [PHONE], terwyl alles anders onveranderd bly. Twee regexe doen dit. 'n E-pos is ongeveer name@host.tld; 'n telefoonnommer is 'n reeks van 7 of meer syfers moontlik met + - ( ) space tussenin. Onskadelike teks, insluitend 'n kort nommer soos "30 days", moet onveranderd terugkom. Druk Run om 'n antwoord oor die onderwerp met 'n bronverwysing, 'n afwysing buite die onderwerp, en gemaskeerde PII te sien.
Hergebruik jou TF-IDF retriever, dan voeg guardrails by. answer_or_refuse(query, index) gee die presiese sentinel I do not know. terug wanneer die boonste similariteit onder 'n klein drempel is; anders gee dit 'n nie-leë antwoord wat die bron doc id(s) wat dit gebruik het, aanhaal. redact_pii(text) maskeer e-posse as [EMAIL] en telefoonnommers as [PHONE] terwyl dit onskadelike teks (insluitend kort nommers soos "30 days") onveranderd laat.
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.