Conteúdo do curso Lição 56 de 156 · Meça a privacidade, com honestidade
Meça a privacidade, com honestidade

A defesa

Por que isso importa As três últimas lições mostraram que os nomes voltam por impressões digitais, quase-identificadores e hashes. Aqui estão as ferramentas que realmente ajudam quando você constrói algo que guarda ou compartilha dados sobre pessoas. Cada uma é simples, e cada uma tem um custo que você deve conhecer.

Quatro ferramentas, uma ideia: compartilhe menos detalhe

Pense em uma escola publicando resultados de provas. Listar a nota de cada aluno, mesmo sem nomes, permite que os colegas descubram quem é quem. Dizer "a média da turma foi 64, e 3 alunos tiraram nota máxima" diz aos pais o que eles precisam com muito menos risco. Toda ferramenta aqui é uma versão disso.

1. Hash com chave (um salt secreto)

Salt: texto extra misturado à entrada antes do hash, para que o mesmo e-mail dê um hash diferente. Quando o salt é um segredo guardado por uma organização, ele muitas vezes é chamado de chave ou pepper.

HMAC: um jeito padrão de fazer hash com uma chave secreta. O Python já o traz embutido: hmac.new(key, message, hashlib.sha256).hexdigest().

A tabela de consulta da última lição só funciona porque qualquer um consegue calcular sha256(email). Com uma chave secreta, quem está de fora não consegue calcular os hashes dos e-mails candidatos, então a tabela é inútil. O custo: duas empresas não conseguem mais associar clientes a menos que compartilhem a chave, o que muitas vezes é exatamente o objetivo. E isso só protege contra quem está de fora: quem tem a chave ainda pode usar força bruta.

2. Generalize, depois suprima: chegando a k

Generalização: trocar valores exatos por valores mais grossos: o zip 40113 vira 4011*, a data de nascimento 1987-03-03 vira 1980s.

Valores mais grossos formam grupos maiores. Mas alguns grupos continuam minúsculos (nos nossos dados, pessoas com gênero X são raras). Então o segundo passo é a supressão: deixar de fora as linhas cujo grupo é menor que k. Depois dos dois passos, toda combinação que sobra é compartilhada por pelo menos k pessoas. Escolher k (5 e 10 são comuns) é um julgamento sobre o risco.

Limites honestos: se as k pessoas de um grupo têm o mesmo diagnóstico, o grupo ainda o revela. E a supressão tira as pessoas mais raras, cujos dados podem ser os que mais importam. O k-anonimato diminui o risco; ele não o elimina.

3. Agregação

Muitas vezes você nem precisa de linhas. Publique contagens: "212 pessoas com asma". Combine com supressão ("não publique nenhuma contagem abaixo de 10") e muitos ataques desaparecem, porque não há linha para juntar com uma lista pública.

4. Privacidade diferencial, de forma suave

Contagens ainda podem vazar. Se a contagem de ontem era 212 e a de hoje é 213, e você sabe que uma pessoa entrou, você descobre o diagnóstico dela. A privacidade diferencial acrescenta um pouco de ruído aleatório a todo número publicado, para que nenhuma pessoa sozinha mude o resultado de um jeito que alguém consiga ver.

Privacidade diferencial: uma promessa de que os resultados publicados pareceriam quase iguais com ou sem os dados de qualquer pessoa. Ela é obtida acrescentando ruído aleatório de tamanho cuidadosamente escolhido.

Epsilon: a configuração de privacidade. Epsilon menor significa mais ruído e mais privacidade; maior significa mais precisão e menos privacidade.

O ruído clássico é a distribuição de Laplace com escala 1 / epsilon. Um truque esperto a gera a partir de dois sorteios aleatórios comuns: rng.expovariate(epsilon) - rng.expovariate(epsilon). Com epsilon 1, a contagem publicada erra por cerca de 1 em média; com epsilon 0.25, por cerca de 4. Médias sobre grupos grandes continuam úteis, porque o ruído é pequeno comparado a elas e se cancela.

Os testes passam um objeto random.Random com seed como rng. Usar só esse objeto torna seu ruído repetível, para que a avaliação seja justa. A Etapa 7 vai mais fundo: orçamentos de privacidade e o que acontece quando você responde a muitas perguntas.

Um equívoco comum

"O ruído estraga os dados." Para um grupo minúsculo estraga, e esse é o ponto: é ali que indivíduos poderiam ser expostos. Para os totais grandes que as pessoas realmente usam, algumas unidades de ruído quase não importam.

Experimente Quando passar, chame noisy_count(212, epsilon, rng) dez vezes para cada epsilon 2, 0.5 e 0.1. Anote a dispersão das respostas. Qual epsilon você aceitaria para um relatório sobre uma cidade de 2.000 pessoas?

Em outras linguagens

JavaScript (Node):

const { createHmac } = require("crypto");
const keyedHash = (email, key) =>
  createHmac("sha256", key).update(email.trim().toLowerCase()).digest("hex");

// Laplace noise from two exponential draws (use a seeded generator for tests)
const expo = (rate, rand) => -Math.log(1 - rand()) / rate;
const noisyCount = (n, eps, rand) => n + expo(eps, rand) - expo(eps, rand);

Go:

mac := hmac.New(sha256.New, []byte(key))
mac.Write([]byte(strings.ToLower(strings.TrimSpace(email))))
hash := hex.EncodeToString(mac.Sum(nil))

noisy := float64(count) + r.ExpFloat64()/eps - r.ExpFloat64()/eps

Resumo

  • Uma chave secreta (HMAC) impede quem está de fora de usar força bruta em e-mails com hash.
  • Generalize e depois suprima os grupos pequenos para chegar ao k-anonimato; ele diminui o risco, não a zero.
  • Publique contagens em vez de linhas, e esconda as contagens pequenas.
  • A privacidade diferencial acrescenta ruído de escala 1/epsilon: grupos minúsculos ficam borrados, médias grandes continuam úteis.
Sua vez

Escreva keyed_hash(email, key) (o hex HMAC-SHA256 do e-mail normalizado, chave em UTF-8), generalise(row) (um dict novo com zip = os 4 primeiros dígitos mais *, birth_decade como "1980s", e gender e diagnosis sem mudança), suppress_small(rows, columns, k) (mantenha, em ordem, só as linhas cujo grupo de valores iguais em columns tem pelo menos k linhas) e noisy_count(true_count, epsilon, rng) (acrescente ruído de Laplace de escala 1/epsilon sorteado só a partir de rng).

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.