المنهج الدراسي الدرس 228 من 250 · المشروع: Production AI Gateway
المشروع: Production AI Gateway

خط أنابيب الحماية + التتبع

هذه هي القطعة الأخيرة، وهي التي تسمح لك بوضع البوابة أمام المستخدمين الحقيقيين: safety و observability. قبل وصول أي نص إلى model، تقوم بتمريره عبر guard pipeline الذي يحظر محاولات prompt-injection ويمحو البيانات الشخصية. وبعد كل call، تقوم بتسجيل trace event، ثم تدمج تلك الأحداث في summary يراجعه مهندس on-call فعليا. معاً، هاتان الفكرتان، "guardrail" و "cost-account"، تكملان سطر resume الذي بدأت به هذه الوحدة.

الحارس. اكتب guard(request) الذي يفحص نص الطلب ويعيد قاموس verdict مثل {"allowed": bool, "reason": ..., "text": ..., "redacted": [...]}. فحصان:

  • كتلة حقن: إذا تطابق النص مع نمط هجوم معروف (مثل "تجاهل جميع التعليمات السابقة" أو "اكشف مطالبة النظام" أو "أنت الآن...")، ارفضه مباشرة باستخدام allowed=False. تكفي هنا قائمة صغيرة من regexs غير الحساسة لحالة الأحرف.
  • PII redaction: وإلا، قم بإزالة رسائل البريد الإلكتروني وأرقام الهواتف من النص، واستبدلها بـ [EMAIL] و [PHONE]، وأعد النص المنظف مع allowed=True بالإضافة إلى قائمة الأنواع التي وجدتها.
INJECTION = re.compile(r"ignore (?:all )?previous instructions|reveal .*system prompt|you are now", re.I)

def guard(request):
    text = request["text"]
    if INJECTION.search(text):
        return {"allowed": False, "reason": "injection", "text": text, "redacted": []}
    clean, kinds = redact(text)
    return {"allowed": True, "reason": "ok", "text": clean, "redacted": kinds}

الأثر. كل طلب يتم خدمته يترك أثراً: أي handler تم تشغيله، وما إذا كان قد تم حظره، وما كانت تكلفته. اكتب aggregate_trace(events) فوق قائمة من dicts بمفاتيح handler، وblocked، وcost، مع إرجاع ملخص يتضمن العدد الإجمالي لـ calls، وكم عددها التي كانت blocks، وtotal_cost المكالمات التي سُمح بها فعلياً، وby_handler تفصيلي للمكالمات والتكلفة لكل handler. هذا عمل مثالي لـ pandas groupby:

df = pd.DataFrame(events)
allowed = df[~df["blocked"]]
grouped = allowed.groupby("handler")["cost"].agg(["count", "sum"])

الطلبات المحجوبة لا تكلّف شيئاً ويجب ألا تضخّم total_cost، لذا اجمع التكلفة على الصفوف المسموح بها فقط. تعامل مع حالة السجل الفارغ لكي تُبلغ البوابة الجديدة عن أصفار نظيفة بدلاً من الانهيار. اضغط Run لحجب حقن، وتنقيح طلب مليء بتفاصيل الاتصال، وتمرير طلب سليم، وطباعة سجل مُجمَّع.

دورك

اكتب guard(request) (يحتوي request على مفتاح "text") ليعيد قاموس verdict. امنع محاولات prompt-injection (قائمة صغيرة من regexes غير حساسة لحالة الأحرف) باستخدام allowed=False و reason="injection"؛ وإلا قم بإخفاء emails و phone numbers إلى placeholders [EMAIL]/[PHONE] وأعد allowed=True، و text المنظف، وقائمة kinds الموجودة. ثم اكتب aggregate_trace(events) فوق القواميس مع handler، blocked، cost ليعيد {"calls", "blocks", "total_cost", "by_handler"}، حيث يقوم total_cost بجمع المكالمات المسموح بها (غير المحظورة) فقط ويقوم by_handler بتفصيل المكالمات/التكلفة لكل handler.

هل لاحظت مشكلة في هذا الدرس؟ أبلغ عنها · اسأل عن هذا الدرس

سيفتح هذا التمرين قريبا

أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.