A defesa
Por que isso importa As três últimas lições mostraram que os nomes voltam por impressões digitais, quase-identificadores e hashes. Aqui estão as ferramentas que realmente ajudam quando você constrói algo que guarda ou compartilha dados sobre pessoas. Cada uma é simples, e cada uma tem um custo que você deve conhecer.
Quatro ferramentas, uma ideia: compartilhe menos detalhe
Pense em uma escola publicando resultados de provas. Listar a nota de cada aluno, mesmo sem nomes, permite que os colegas descubram quem é quem. Dizer "a média da turma foi 64, e 3 alunos tiraram nota máxima" diz aos pais o que eles precisam com muito menos risco. Toda ferramenta aqui é uma versão disso.
1. Hash com chave (um salt secreto)
Salt: texto extra misturado à entrada antes do hash, para que o mesmo e-mail dê um hash diferente. Quando o salt é um segredo guardado por uma organização, ele muitas vezes é chamado de chave ou pepper.
HMAC: um jeito padrão de fazer hash com uma chave secreta. O Python já o traz embutido: hmac.new(key, message, hashlib.sha256).hexdigest().
A tabela de consulta da última lição só funciona porque qualquer um consegue calcular sha256(email). Com uma chave secreta, quem está de fora não consegue calcular os hashes dos e-mails candidatos, então a tabela é inútil. O custo: duas empresas não conseguem mais associar clientes a menos que compartilhem a chave, o que muitas vezes é exatamente o objetivo. E isso só protege contra quem está de fora: quem tem a chave ainda pode usar força bruta.
2. Generalize, depois suprima: chegando a k
Generalização: trocar valores exatos por valores mais grossos: o zip 40113 vira 4011*, a data de nascimento 1987-03-03 vira 1980s.
Valores mais grossos formam grupos maiores. Mas alguns grupos continuam minúsculos (nos nossos dados, pessoas com gênero X são raras). Então o segundo passo é a supressão: deixar de fora as linhas cujo grupo é menor que k. Depois dos dois passos, toda combinação que sobra é compartilhada por pelo menos k pessoas. Escolher k (5 e 10 são comuns) é um julgamento sobre o risco.
Limites honestos: se as k pessoas de um grupo têm o mesmo diagnóstico, o grupo ainda o revela. E a supressão tira as pessoas mais raras, cujos dados podem ser os que mais importam. O k-anonimato diminui o risco; ele não o elimina.
3. Agregação
Muitas vezes você nem precisa de linhas. Publique contagens: "212 pessoas com asma". Combine com supressão ("não publique nenhuma contagem abaixo de 10") e muitos ataques desaparecem, porque não há linha para juntar com uma lista pública.
4. Privacidade diferencial, de forma suave
Contagens ainda podem vazar. Se a contagem de ontem era 212 e a de hoje é 213, e você sabe que uma pessoa entrou, você descobre o diagnóstico dela. A privacidade diferencial acrescenta um pouco de ruído aleatório a todo número publicado, para que nenhuma pessoa sozinha mude o resultado de um jeito que alguém consiga ver.
Privacidade diferencial: uma promessa de que os resultados publicados pareceriam quase iguais com ou sem os dados de qualquer pessoa. Ela é obtida acrescentando ruído aleatório de tamanho cuidadosamente escolhido.
Epsilon: a configuração de privacidade. Epsilon menor significa mais ruído e mais privacidade; maior significa mais precisão e menos privacidade.
O ruído clássico é a distribuição de Laplace com escala 1 / epsilon. Um truque esperto a gera a partir de dois sorteios aleatórios comuns: rng.expovariate(epsilon) - rng.expovariate(epsilon). Com epsilon 1, a contagem publicada erra por cerca de 1 em média; com epsilon 0.25, por cerca de 4. Médias sobre grupos grandes continuam úteis, porque o ruído é pequeno comparado a elas e se cancela.
Os testes passam um objeto random.Random com seed como rng. Usar só esse objeto torna seu ruído repetível, para que a avaliação seja justa. A Etapa 7 vai mais fundo: orçamentos de privacidade e o que acontece quando você responde a muitas perguntas.
Um equívoco comum
"O ruído estraga os dados." Para um grupo minúsculo estraga, e esse é o ponto: é ali que indivíduos poderiam ser expostos. Para os totais grandes que as pessoas realmente usam, algumas unidades de ruído quase não importam.
Experimente Quando passar, chame noisy_count(212, epsilon, rng) dez vezes para cada epsilon 2, 0.5 e 0.1. Anote a dispersão das respostas. Qual epsilon você aceitaria para um relatório sobre uma cidade de 2.000 pessoas?
Em outras linguagens
JavaScript (Node):
const { createHmac } = require("crypto");
const keyedHash = (email, key) =>
createHmac("sha256", key).update(email.trim().toLowerCase()).digest("hex");
// Laplace noise from two exponential draws (use a seeded generator for tests)
const expo = (rate, rand) => -Math.log(1 - rand()) / rate;
const noisyCount = (n, eps, rand) => n + expo(eps, rand) - expo(eps, rand);Go:
mac := hmac.New(sha256.New, []byte(key))
mac.Write([]byte(strings.ToLower(strings.TrimSpace(email))))
hash := hex.EncodeToString(mac.Sum(nil))
noisy := float64(count) + r.ExpFloat64()/eps - r.ExpFloat64()/epsResumo
- Uma chave secreta (HMAC) impede quem está de fora de usar força bruta em e-mails com hash.
- Generalize e depois suprima os grupos pequenos para chegar ao k-anonimato; ele diminui o risco, não a zero.
- Publique contagens em vez de linhas, e esconda as contagens pequenas.
- A privacidade diferencial acrescenta ruído de escala 1/epsilon: grupos minúsculos ficam borrados, médias grandes continuam úteis.
Escreva keyed_hash(email, key) (o hex HMAC-SHA256 do e-mail normalizado, chave em UTF-8), generalise(row) (um dict novo com zip = os 4 primeiros dígitos mais *, birth_decade como "1980s", e gender e diagnosis sem mudança), suppress_small(rows, columns, k) (mantenha, em ordem, só as linhas cujo grupo de valores iguais em columns tem pelo menos k linhas) e noisy_count(true_count, epsilon, rng) (acrescente ruído de Laplace de escala 1/epsilon sorteado só a partir de rng).
Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição
Este exercício abre em breve
Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.
Este navegador está bloqueando cookies para learn.floati.life, então as lições que você terminou aqui não podem abrir em ordem. Permita cookies para este site e recarregue.