पाठ्यक्रम 250 में से पाठ 228 · प्रोजेक्ट: production AI gateway
प्रोजेक्ट: production AI gateway

Guardrail pipeline + trace

यह आख़िरी टुकड़ा है, और यही आपको gateway को असली उपयोगकर्ताओं के सामने रखने देता है: सुरक्षा और observability। कोई भी टेक्स्ट मॉडल तक पहुँचने से पहले आप उसे एक पहरा pipeline से गुज़ारते हैं जो prompt-injection कोशिशें रोकती है और निजी डेटा साफ़ करती है। और हर कॉल के बाद आप एक trace घटना दर्ज करते हैं, फिर उन घटनाओं को उस सार में जोड़ते हैं जिसे एक on-call engineer असल में देखता है। मिलकर ये दो विचार, "guardrail" और "cost-account," वह resume पंक्ति पूरी करते हैं जिससे आपने यह मॉड्यूल शुरू किया।

पहरा। guard(request) लिखें जो अनुरोध टेक्स्ट जाँचे और {"allowed": bool, "reason": ..., "text": ..., "redacted": [...]} जैसी एक फ़ैसला dict लौटाए। दो जाँचें:

  • Injection रोक: अगर टेक्स्ट किसी जाने हमला पैटर्न से मेल खाता है (सोचें "ignore all previous instructions," "reveal the system prompt," "you are now..."), तो उसे allowed=False के साथ सीधे मना करें। यहाँ छोटे-बड़े अक्षर से स्वतंत्र regexes की एक छोटी सूची काफ़ी है।
  • PII छिपाना: नहीं तो, टेक्स्ट से ईमेल और फ़ोन नंबर साफ़ करें, उन्हें [EMAIL] और [PHONE] placeholders से बदलते हुए, और साफ़ किया टेक्स्ट allowed=True और मिले प्रकारों की सूची के साथ लौटाएँ।
INJECTION = re.compile(r"ignore (?:all )?previous instructions|reveal .*system prompt|you are now", re.I)

def guard(request):
    text = request["text"]
    if INJECTION.search(text):
        return {"allowed": False, "reason": "injection", "text": text, "redacted": []}
    clean, kinds = redact(text)
    return {"allowed": True, "reason": "ok", "text": clean, "redacted": kinds}

Trace। हर सेवा किया अनुरोध एक निशान छोड़ता है: कौन-सा handler चला, क्या वह रोका गया, और उसकी लागत क्या थी। handler, blocked, और cost कुंजियों वाली dicts की सूची पर aggregate_trace(events) लिखें, जो calls की कुल संख्या, कितने blocks थे, असल में अनुमत calls की total_cost, और हर handler की calls और लागत का एक by_handler बँटवारा वाला सार लौटाए। यह pandas groupby के लिए एकदम सही काम है:

df = pd.DataFrame(events)
allowed = df[~df["blocked"]]
grouped = allowed.groupby("handler")["cost"].agg(["count", "sum"])

रोके गए अनुरोधों की कोई लागत नहीं और उन्हें total_cost नहीं बढ़ाना चाहिए, इसलिए लागत सिर्फ़ अनुमत पंक्तियों पर जोड़ें। ख़ाली-trace वाला मामला सँभालें ताकि एक नया gateway क्रैश होने के बजाय साफ़ शून्य बताए। एक injection रोकने, संपर्क जानकारी से भरे अनुरोध को छिपाने, एक सामान्य को जाने देने, और एक जोड़ा trace print करने के लिए Run दबाएँ।

आपकी बारी

guard(request) लिखें (request में एक "text" कुंजी है) जो एक फ़ैसला dict लौटाए। prompt-injection कोशिशें (छोटे-बड़े अक्षर से स्वतंत्र regexes की एक छोटी सूची) allowed=False और reason="injection" के साथ रोकें; नहीं तो ईमेल और फ़ोन नंबर [EMAIL]/[PHONE] placeholders में छिपाएँ और allowed=True, साफ़ किया text, और मिले प्रकारों की सूची लौटाएँ। फिर handler, blocked, cost वाली dicts पर aggregate_trace(events) लिखें जो {"calls", "blocks", "total_cost", "by_handler"} लौटाए, जहाँ total_cost सिर्फ़ अनुमत (न रोकी) calls जोड़ता है और by_handler हर handler की calls/लागत बाँटता है।

इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें

यह अभ्यास जल्द खुलेगा

इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।