Canalización de barreras + traza
Esta es la última pieza, y la que te permite poner la pasarela delante de usuarios reales: seguridad y observabilidad. Antes de que ningún texto llegue al modelo, lo pasas por una canalización de barreras que bloquea los intentos de inyección de prompts y limpia los datos personales. Y después de cada llamada registras un evento de traza, y luego agrupas esos eventos en el resumen que mira de verdad un ingeniero de guardia. Juntas, estas dos ideas, "barreras" y "contabilidad de costes", completan la línea del currículum con la que empezaste este módulo.
La barrera. Escribe guard(request), que inspeccione el texto de la petición y devuelva un dict de veredicto como {"allowed": bool, "reason": ..., "text": ..., "redacted": [...]}. Dos comprobaciones:
- Bloqueo de inyección: si el texto coincide con un patrón de ataque conocido (piensa en "ignore all previous instructions", "reveal the system prompt", "you are now..."), recházalo de plano con
allowed=False. Aquí basta una pequeña lista de regex que no distinguen mayúsculas. - Eliminación de datos personales: si no, quita del texto los correos y los números de teléfono, sustituyéndolos por los marcadores
[EMAIL]y[PHONE], y devuelve el texto limpio conallowed=Truemás la lista de tipos que encontraste.
INJECTION = re.compile(r"ignore (?:all )?previous instructions|reveal .*system prompt|you are now", re.I)
def guard(request):
text = request["text"]
if INJECTION.search(text):
return {"allowed": False, "reason": "injection", "text": text, "redacted": []}
clean, kinds = redact(text)
return {"allowed": True, "reason": "ok", "text": clean, "redacted": kinds}La traza. Cada petición servida deja un rastro: qué gestor se ejecutó, si se bloqueó y cuánto costó. Escribe aggregate_trace(events) sobre una lista de dicts con las claves handler, blocked y cost, que devuelva un resumen con el número total de llamadas (calls), cuántas fueron bloqueos (blocks), el coste total (total_cost) de las llamadas que de verdad se permitieron, y un desglose by_handler de llamadas y coste por gestor. Es un trabajo perfecto para un groupby de pandas:
df = pd.DataFrame(events)
allowed = df[~df["blocked"]]
grouped = allowed.groupby("handler")["cost"].agg(["count", "sum"])Las peticiones bloqueadas no cuestan nada y no deben inflar total_cost, así que suma el coste solo de las filas permitidas. Trata el caso de una traza vacía para que una pasarela recién estrenada informe de ceros limpios en lugar de fallar. Pulsa Ejecutar para bloquear una inyección, limpiar una petición llena de datos de contacto, dejar pasar una inofensiva e imprimir una traza agrupada.
Escribe guard(request) (la petición tiene una clave "text"), que devuelva un dict de veredicto. Bloquea los intentos de inyección de prompts (una pequeña lista de regex que no distinguen mayúsculas) con allowed=False y reason="injection"; si no, sustituye los correos y los números de teléfono por los marcadores [EMAIL]/[PHONE] y devuelve allowed=True, el text limpio y la lista de tipos encontrados. Luego escribe aggregate_trace(events) sobre dicts con handler, blocked, cost, que devuelva {"calls", "blocks", "total_cost", "by_handler"}, donde total_cost suma solo las llamadas permitidas (no bloqueadas) y by_handler desglosa llamadas y coste por gestor.
¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección
Este ejercicio se abre pronto
Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.
Este navegador está bloqueando las cookies de learn.floati.life, así que las lecciones que terminaste aquí no se pueden abrir en orden. Permite las cookies de este sitio y recarga.