المنهج الدراسي الدرس 215 من 250 · المشروع: مساعد دعم العملاء Copilot
المشروع: مساعد دعم العملاء Copilot

رفض ما هو خارج النطاق، والاقتباسات، ومعلومات الهوية الشخصية

يمكن لمساعدك استرجاع المعلومات والربط بها. لكن بوت دعم حقيقي أمام العملاء يحتاج إلى guardrails، وهذا هو الدرس الذي يحول العرض التوضيحي إلى شيء يمكنك نشره فعليا. هناك ثلاثة منها، وسيبحث مدير التوظيف عن الثلاثة جميعا:

  • ارفض الأسئلة الخارجة عن النطاق. إذا لم يكن أي شيء في قاعدة المعرفة قريبا بما يكفي من السؤال، فلا ترتجل -- أعد قيمة الرفض sentinel. هذا هو سلوك الأمان الأكثر أهمية في RAG.
  • استشهد بالمصادر. عندما تجيب، اذكر معرفات المقالات التي دعمت الإجابة، حتى يتمكن الإنسان من التحقق منها.
  • احذف معلومات الهوية الشخصية.إذا قمت بأي وقت بطباعة نص المستخدم (في سجل، أو تذكرة، أو مطالبة)، فقم بإزالة رسائل البريد الإلكتروني وأرقام الهواتف أولا.

قم ببناء retriever مرة أخرى (أعد استخدام TF-IDF الخاص بك من الدرس 1) وأضف طبقة guardrail:

answer_or_refuse(query, index)   # refuse, or answer WITH citations
redact_pii(text)                 # mask emails and phone numbers

answer_or_refuse(query, index) يقيّم الاستعلام مقابل قاعدة المعرفة. إذا كان التشابه الأعلى (top) أقل من عتبة، فالسؤال خارج النطاق -- أرجِع القيمة الحارسة بالضبط I do not know. وإلا فأرجِع نص إجابة غير فارغ يستشهد بمعرّفات المصادر التي استخدمها. يتحقق المصحّح من أمرين في الإجابة الحقيقية: أنها ليست القيمة الحارسة، وأنها تذكر معرّف المقالة الصحيح (مثلاً الاستشهاد لسؤال عن كلمة المرور يتضمن 0). الطريقة النظيفة لتنسيق الاستشهاد هي (sources: [0]) في النهاية، لكن أي شكل يحتوي المعرّف يعمل. (يكتبها هذا المشروع الختامي "I do not know."، بينما استخدمت وحدة RAG "I don't know.". الكلمات الدقيقة لا تهم؛ ما يهم أن يتفق موجّهك وكودك على نص ثابت واحد، حرفاً بحرف.)

كيفية تحديد العتبة: مع إزالة stopwords، السؤال الخارج عن الموضوع تماما ("what is the capital of France?") لا يشترك في أي content words مع أي article، لذا فإن أعلى cosine similarity له هو 0.0. السؤال المتوافق مع الموضوع يحصل على درجة أعلى بكثير من الصفر. عتبة موجبة صغيرة مثل 0.05 تفصل بينهما بوضوح.

redact_pii(text) يستبدل أي بريد إلكتروني بـ [EMAIL] وأي رقم هاتف بـ [PHONE]، مع ترك كل شيء آخر دون تغيير. تعتمد العملية على تعبيرين منتظمين. البريد الإلكتروني هو تقريبًا name@host.tld؛ ورقم الهاتف هو سلسلة من 7 أرقام أو أكثر مع احتمال وجود + - ( ) space بينها. يجب أن يعود النص غير الضار كما هو، بما في ذلك الأرقام القصيرة مثل "30 days". اضغط على Run لرؤية إجابة في صلب الموضوع مع اقتباس، ورفض لشيء خارج الموضوع، ومع إخفاء PII.

دورك

أعد استخدام TF-IDF retriever الخاص بك، ثم أضف guardrails. يعيد answer_or_refuse(query, index) القيمة sentinel I do not know. بالضبط عندما تكون أعلى درجة similarity أقل من حد معين؛ وإلا فإنه يعيد إجابة غير فارغة تذكر معرفات doc id(s) المصدر التي استخدمها. يقوم redact_pii(text) بحجب رسائل البريد الإلكتروني كـ [EMAIL] وأرقام الهواتف كـ [PHONE] مع ترك النص غير الضار (بما في ذلك الأرقام القصيرة مثل "30 days") دون تغيير.

هل لاحظت مشكلة في هذا الدرس؟ أبلغ عنها · اسأل عن هذا الدرس

سيفتح هذا التمرين قريبا

أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.