课程大纲 第 228 课,共 250 课 · 项目:生产环境的 AI 网关
项目:生产环境的 AI 网关

防护流水线 + 轨迹

这是最后一块,也是让你能把网关放在真实用户面前的那一块:安全和可观测性。在任何文本到达模型之前,你让它跑过一条防护流水线,拦下提示词注入的企图并清除个人数据。而在每次调用之后,你记录一个轨迹事件,然后把这些事件汇总成值班工程师真正会看的摘要。这两个想法,"防护"和"成本核算",合在一起就完成了你在本模块开头开始写的那行简历。

防护。写 guard(request),检查请求文本,并返回一个像 {"allowed": bool, "reason": ..., "text": ..., "redacted": [...]} 这样的结论字典。两项检查:

  • 拦截注入:如果文本匹配一个已知的攻击模式(想想"ignore all previous instructions"、"reveal the system prompt"、"you are now..."),就用 allowed=False 直接拒绝它。这里一小组不区分大小写的正则表达式就够了。
  • 遮盖个人信息:否则,把文本里的邮箱和电话号码清除掉,替换成 [EMAIL] 和 [PHONE] 占位符,并返回清理后的文本、allowed=True,以及你找到的种类列表。
INJECTION = re.compile(r"ignore (?:all )?previous instructions|reveal .*system prompt|you are now", re.I)

def guard(request):
    text = request["text"]
    if INJECTION.search(text):
        return {"allowed": False, "reason": "injection", "text": text, "redacted": []}
    clean, kinds = redact(text)
    return {"allowed": True, "reason": "ok", "text": clean, "redacted": kinds}

轨迹。每个被处理的请求都会留下一条线索:哪个处理函数运行了,它有没有被拦下,花了多少钱。在一个由带有 handler、blocked 和 cost 键的字典组成的列表上写 aggregate_trace(events),返回一份摘要,包括 calls 的总数、有多少是 blocks、实际被允许的调用的 total_cost,以及按处理函数细分调用数和成本的 by_handler。这正适合用 pandas 的 groupby:

df = pd.DataFrame(events)
allowed = df[~df["blocked"]]
grouped = allowed.groupby("handler")["cost"].agg(["count", "sum"])

被拦下的请求不花钱,绝不能抬高 total_cost,所以只在被允许的行上对成本求和。处理好轨迹为空的情况,让一个全新的网关报告干净的零,而不是崩溃。按 Run 拦下一次注入,遮盖一个满是联系方式的请求,放行一个无害的请求,并打印一份汇总后的轨迹。

轮到你了

写 guard(request)(request 有一个 "text" 键),返回一个结论字典。用 allowed=False 和 reason="injection" 拦下提示词注入的企图(一小组不区分大小写的正则表达式);否则把邮箱和电话号码遮盖为 [EMAIL]/[PHONE] 占位符,并返回 allowed=True、清理后的 text 和找到的种类列表。然后在带有 handler、blocked、cost 的字典上写 aggregate_trace(events),返回 {"calls", "blocks", "total_cost", "by_handler"},其中 total_cost 只对被允许的(没被拦下的)调用求和,by_handler 按处理函数细分调用数/成本。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。