Kapsam Dışı Reddetme, Alıntılar ve PII
Asistanın bilgi getirebilir ve temellendirebilir. Ancak müşterilerin önündeki gerçek bir destek botu guardrails gerektirir, bu da bir demoyu gerçekten yayına alabileceğin bir şeye dönüştüren derstir. Üç tanesi var ve bir işe alım yöneticisi üçünü de arayacaktır:
- Kapsam dışı soruları reddet. Bilgi tabanında soruya yeterince yakın hiçbir şey yoksa uydurma -- reddetme işaretçisini döndür. Bu RAG içindeki en önemli güvenlik davranışıdır.
- Kaynakları belirt. Cevap verirken, bir insanın doğrulaması için cevabı destekleyen hangi makale idlerini söylediğini belirt.
- Kişisel verileri temizle. Kullanıcının metnini (bir loga, bir bilete, bir prompta) her zaman yankılarsan, önce e-posta adreslerini ve telefon numaralarını çıkar.
Bir retriever tekrar oluştur (1. dersteki TF-IDF modelini tekrar kullan) ve guardrail katmanını ekle:
answer_or_refuse(query, index) # refuse, or answer WITH citations
redact_pii(text) # mask emails and phone numbersanswer_or_refuse(query, index) sorguyu bilgi tabanıyla karşılaştırır. Eğer top benzerliği bir eşiğin altındaysa, soru kapsam dışındadır -- tam olarak I do not know. döndür. Aksi takdirde, kullandığı cites the source ids içeren boş olmayan bir cevap dizisi döndür. Değerlendirici gerçek bir cevap hakkında iki şeyi kontrol eder: sentinel değildir ve doğru makale id'sini adlandırır (örneğin şifre sorusu için alıntı 0 içerir). Bir alıntıyı formatlamanın temiz bir yolu sonuna (sources: [0]) eklemektir, ancak id içeren herhangi bir biçim çalışır. (Bu bitirme projesi bunu "I do not know." olarak belirtiyor, oysa RAG modülü "I don't know." kullanmıştı. Tam kelimeler önemli değildir; önemli olan senin prompt'un ve kodunun karakter karakter aynı sabit bir dizide anlaşmasıdır.)
Eşik eşiği nasıl ayarlarsın: stop words çıkarıldığında, tamamen konu dışı bir soru ("Fransa'nın başkenti nedir?") hiçbir makale ile ortak içerik kelimesi paylaşmaz, bu yüzden en yüksek cosine similarity değeri 0.0 olur. Konuyla ilgili bir soru sıfırun çok üzerinde puan alır. 0.05 gibi küçük bir pozitif eşik bunları net bir şekilde ayırır.
redact_pii(text) her e-postayı [EMAIL] ile, her telefon numarasını ise [PHONE] ile değiştirir ve diğer her şeyi olduğu gibi bırakır. İki regex bunu yapar. Bir e-posta yaklaşık olarak name@host.tld şeklindedir; bir telefon numarası ise aralarında + - ( ) space olabilecek 7 veya daha fazla rakamdan oluşan bir dizidir. Zararsız metinler, "30 days" gibi kısa numaralar dahil, değiştirilmeden dönmelidir. Alıntılı bir konu içi yanıtı, konu dışı bir reddetmeyi ve maskelenmiş PII verisini görmek için Run tuşuna bas.
TF-IDF retriever'ını tekrar kullan, sonra guardrails ekle. answer_or_refuse(query, index), en yüksek benzerlik küçük bir eşiğin altındaysa tam olarak I do not know. döndürür; aksi takdirde kullandığı kaynak doc id(s) değerlerini belirten boş olmayan bir cevap döndürür. redact_pii(text), zararsız metinleri ( "30 days" gibi kısa numaralar dahil) değiştirmeden e-postaları [EMAIL] olarak, telefon numaralarını ise [PHONE] olarak maskeler.
Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor
Bu alıştırma yakında açılacak
Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.
Bu tarayıcı learn.floati.life için çerezleri engelliyor, bu yüzden burada bitirdiğin dersler sırasıyla açılamıyor. Bu site için çerezlere izin ver ve sayfayı yenile.