سرفصل‌ها درس 215 از 250 · پروژه: دستیار مشتری
پروژه: دستیار مشتری

رد خارج از دامنه، ارجاعات و اطلاعات شخصی قابل شناسایی

دستیار شما می‌تواند بازیابی و زمین‌گیری کند. اما یک ربات پشتیبانی واقعی در مقابل مشتریان نیاز دارد حفاظ‌های کنار پلو این درسی است که یک دمو را به چیزی تبدیل می‌کند که واقعاً آن را مستقر خواهید کرد. سه مورد از آن‌ها، و یک مدیر استخدام به دنبال هر سه خواهد بود:

  • از پاسخ به سؤالات خارج از محدوده خودداری کنید. اگر هیچ موردی در پایگاه دانش به اندازه کافی به سؤال نزدیک نباشد، بداهه‌پردازی نکنید و سگال رد را بازگردانید. این مهم‌ترین رفتار ایمنی در RAG است.
  • منابع را ذکر کنید. وقتی پاسخ می‌دهید، بگویید کدام شناسهٔ مقاله پشت این پاسخ قرار دارد تا یک انسان بتواند آن را تأیید کند.
  • اطلاعات شخصی قابل شناسایی را سانسور کنید. اگر هرگز متن کاربر را بازتاب می‌دهید (در یک گزارش، یک تیکت یا یک پیام)، ابتدا ایمیل‌ها و شماره‌های تلفن را حذف کنید.

دوباره یک رتریور بسازید (TF-IDF خود را از درس اول دوباره استفاده کنید) و لایه گاردریل را اضافه کنید:

answer_or_refuse(query, index)   # refuse, or answer WITH citations
redact_pii(text)                 # mask emails and phone numbers

پاسخ_یا_رد(پرسش، نمایه) پرس‌وجو را در برابر پایگاه دانش امتیازدهی می‌کند. اگر بالا اگر شباهت کمتر از آستانه باشد، مسئله خارج از محدوده است -- مقدار دقیق سنتینل را بازگردانید I do not know. در غیر این صورت، یک رشته پاسخ غیرخالی را که شناسهٔ منابع را ذکر می‌کند از آن استفاده شد. گریدر دو چیز را دربارهٔ یک پاسخ واقعی بررسی می‌کند: اینکه این پاسخ سنتینل نیست و اینکه شناسهٔ مقالهٔ صحیح را نام می‌برد (برای مثال ارجاع در یک سؤال رمز عبور شامل 0). یک روش تمیز برای قالب‌بندی یک ارجاع، استفاده از پس‌وند است. (sources: [0])، اما هر قالبی که id را در خود داشته باشد کار می‌کند. (این capstone آن را به صورت «I do not know.» نمایش می‌دهد، در حالی که ماژول RAG از «I don't know.» استفاده می‌کرد. کلمات دقیق مهم نیستند؛ آنچه اهمیت دارد این است که prompt شما و کدتان روی یک رشته ثابت، کاراکتر به کاراکتر، توافق داشته باشند.)

چگونه آستانه را تنظیم کنیم: پس از حذف واژگان متوقف‌کننده، یک سؤال واقعاً خارج از موضوع («پایتخت فرانسه چیست؟») هیچ واژه محتوایی مشترکی با هیچ مقاله‌ای ندارد، بنابراین بالاترین شباهت کسینوسی آن است 0.0یک سؤال مرتبط با موضوع نمره‌ای بسیار بالاتر از صفر می‌گیرد. یک آستانهٔ مثبت کوچک مانند 0.05 آنها را به‌خوبی از هم جدا می‌کند.

اطلاعات شخصی را ویرایش کنید (متن) هر ایمیل را با جایگزین می‌کند [EMAIL] و هر شماره تلفنی با [PHONE]و بقیه چیزها دست‌نخورده باقی می‌مانند. دو عبارت باقاعده این کار را انجام می‌دهند. یک ایمیل تقریباً name@host.tld; یک شماره تلفن شامل ۷ یا تعداد بیشتری رقم است که ممکن است با + - ( ) space در بین. متن بی‌ضرر -- از جمله یک عدد کوتاه مانند «۳۰ روز» -- باید بدون تغییر بازگردد. فشار دهید دویدن برای مشاهده یک پاسخ مرتبط با موضوع همراه با ارجاع، یک ردیه نامرتبط، و اطلاعات شخصی (PII) پنهان‌شده.

نوبت شما

ابزار بازیابی TF-IDF خود را مجدداً استفاده کنید، سپس محدودیت‌های حفاظتی را اضافه کنید. answer_or_refuse(query, index) سentinel دقیق را بازمی‌گرداند I do not know. وقتی بیشترین شباهت کمتر از یک آستانهٔ کوچک باشد؛ در غیر این صورت، پاسخی غیرخالی بازمی‌گرداند که شناسه‌های سند منبعی را که استفاده کرده است، ذکر می‌کند. redact_pii(text) ایمیل‌ها را به‌عنوان ماسک می‌کند [EMAIL] و شماره‌های تلفن را به صورت [PHONE] در حالی که متن بی‌ضرر (از جمله اعداد کوتاه مانند «30 روز») را بدون تغییر باقی می‌گذارد.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.