Pipeline de Guardrail + Trace
Esta é a última peça, e é ela que permite colocar o gateway diante de usuários reais: segurança e observabilidade. Antes que qualquer texto chegue ao modelo, você o passa por um pipeline de proteção que bloqueia tentativas de prompt injection e remove dados pessoais. E depois de cada chamada você registra um evento de trace e depois agrega esses eventos no resumo que um engenheiro de plantão realmente olha. Juntas, essas duas ideias, "guardrail" e "controle de custo", completam a linha de currículo com que você começou este módulo.
A proteção. Escreva guard(request), que inspeciona o texto da requisição e retorna um dict de veredito como {"allowed": bool, "reason": ..., "text": ..., "redacted": [...]}. Duas verificações:
- Bloqueio de injection: se o texto corresponder a um padrão de ataque conhecido (pense em "ignore all previous instructions", "reveal the system prompt", "you are now..."), recuse na hora com
allowed=False. Uma pequena lista de regexes sem diferenciar maiúsculas e minúsculas basta aqui. - Remoção de dados pessoais: caso contrário, tire e-mails e números de telefone do texto, trocando-os pelos marcadores
[EMAIL]e[PHONE], e retorne o texto limpo comallowed=Truemais a lista dos tipos que você encontrou.
INJECTION = re.compile(r"ignore (?:all )?previous instructions|reveal .*system prompt|you are now", re.I)
def guard(request):
text = request["text"]
if INJECTION.search(text):
return {"allowed": False, "reason": "injection", "text": text, "redacted": []}
clean, kinds = redact(text)
return {"allowed": True, "reason": "ok", "text": clean, "redacted": kinds}O trace. Toda requisição atendida deixa um rastro: qual handler rodou, se foi bloqueada e quanto custou. Escreva aggregate_trace(events) sobre uma lista de dicts com as chaves handler, blocked e cost, retornando um resumo com o número total de calls, quantas foram blocks, o total_cost das chamadas que foram de fato permitidas e um detalhamento by_handler de chamadas e custo por handler. É um trabalho perfeito para um groupby do pandas:
df = pd.DataFrame(events)
allowed = df[~df["blocked"]]
grouped = allowed.groupby("handler")["cost"].agg(["count", "sum"])Requisições bloqueadas não custam nada e não podem inflar o total_cost, então some o custo só das linhas permitidas. Trate o caso de trace vazio para que um gateway novo mostre zeros limpos em vez de quebrar. Clique em Run para bloquear uma injection, limpar uma requisição cheia de dados de contato, deixar passar uma inofensiva e imprimir um trace agregado.
Escreva guard(request) (a requisição tem uma chave "text") retornando um dicionário de veredito. Bloqueie tentativas de prompt-injection (uma pequena lista de regexes não sensíveis a maiúsculas) com allowed=False e reason="injection"; caso contrário, redija e-mails e números de telefone para os placeholders [EMAIL]/[PHONE] e retorne allowed=True, o text limpo e a lista de tipos encontrados. Depois, escreva aggregate_trace(events) sobre dicionários com handler, blocked, cost retornando {"calls", "blocks", "total_cost", "by_handler"}, onde total_cost soma apenas as chamadas permitidas (não bloqueadas) e by_handler divide chamadas/custo por handler.
Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição
Este exercício abre em breve
Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.
Este navegador está bloqueando cookies para learn.floati.life, então as lições que você terminou aqui não podem abrir em ordem. Permita cookies para este site e recarregue.