Conteúdo do curso Lição 54 de 156 · Meça a privacidade, com honestidade
Meça a privacidade, com honestidade

k-anonimato

Por que isso importa Organizações muitas vezes compartilham dados depois de "tirar os nomes" e chamam isso de anônimo. Você vai ver, em dados sintéticos, com que rapidez três fatos comuns devolvem os nomes. É assim que a reidentificação real aconteceu, e é por isso que a defesa da lição 56 existe.

O teste da fofoca

Alguém diz: "Uma mulher da nossa rua, nascida em 3 de março de 1981, acabou de receber um diagnóstico." Nenhum nome foi dito. Mas, em uma rua, quantas mulheres têm exatamente esse aniversário? Provavelmente uma. Os detalhes eram o nome.

Quase-identificador: um fato que não é um nome, mas que, combinado com alguns outros, aponta para uma pessoa. CEP (zip code), data de nascimento completa e gênero são os três clássicos.

Reidentificação: colocar nomes de volta em dados que foram publicados sem eles, em geral juntando-os com outra lista que tem nomes.

Um estudo famoso de Latanya Sweeney, em 2000, estimou que cerca de 87% das pessoas nos Estados Unidos podiam ser identificadas só pelo zip code, pela data de nascimento e pelo gênero. Um estudo posterior com dados de censo mais novos (Golle, 2006) chegou a cerca de 63%: menos, mas ainda a maioria das pessoas, e esse é o ponto. Vamos ver o mesmo efeito em dados inventados.

Os dados de prática

synthetic_people(2000) monta uma tabela de saúde inventada: id, name, zip, birth_date, gender, diagnosis. Ninguém nela é real. Nós a "anonimizamos" do jeito ingênuo, tirando o nome. synthetic_public_roll(people) monta uma lista pública inventada, como o cadastro de um clube, com nomes, zip, data de nascimento e gênero, mas sem diagnóstico.

Medindo o risco: k

k-anonimato: uma tabela é k-anônima quando toda combinação de valores de quase-identificadores é compartilhada por pelo menos k linhas. k = 1 significa que pelo menos uma pessoa está sozinha e pode ser encontrada.

Para encontrar k: agrupe as linhas pela tupla de quase-identificadores, conte cada grupo e pegue a menor contagem. Só com ["gender"], k é grande. Com zip, data de nascimento e gênero juntos, k cai para 1.

A junção

Para cada pessoa da lista pública, monte a chave dela (zip, birth_date, gender) e procure-a na tabela publicada. Seja rigoroso: só conte uma correspondência quando a chave aparecer exatamente uma vez na publicação e exatamente uma vez na lista. Aí você tem certeza. Se dois registros compartilham a chave, você não sabe qual é qual; se duas pessoas da lista a compartilham, você não sabe quem é quem.

reidentify(released, roll)
# {17: 'Mei Patel', 203: 'Omar Novak', ...}   record id -> name

Quando o registro 17 ganha um nome, o diagnóstico dele também ganha. Esse é todo o ataque: duas listas de aparência inofensiva, uma junção.

Um equívoco comum

"Tirar nomes, e-mails e telefones deixa os dados anônimos." Isso tira os identificadores óbvios, mas as colunas que sobram ainda podem identificar pessoas. Se os dados são anônimos depende do que mais existe por aí para juntar com eles, e é por isso que a lição 56 muda os próprios dados.

Experimente Quando passar, mude a fraction da lista de 0.6 para 0.2 e rode de novo. O número de correspondências cai, mas a fração das pessoas da lista que você reidentifica quase não muda. Cada pessoa é exposta pelos próprios detalhes, não pelo tamanho da lista.

Em outras linguagens

JavaScript:

function reidentify(released, roll, cols) {
  const key = r => JSON.stringify(cols.map(c => r[c]));
  const count = list => list.reduce((m, r) => m.set(key(r), (m.get(key(r)) || 0) + 1), new Map());
  const a = count(released), b = count(roll);
  const byKey = new Map(released.map(r => [key(r), r]));
  const found = {};
  for (const p of roll) {
    if (a.get(key(p)) === 1 && b.get(key(p)) === 1) found[byKey.get(key(p)).id] = p.name;
  }
  return found;
}

Raciocínio no estilo SQL em C# (LINQ):

var matches =
    from r in released
    join p in roll on new { r.Zip, r.BirthDate, r.Gender }
                   equals new { p.Zip, p.BirthDate, p.Gender }
    select new { r.Id, p.Name };
// then keep only keys that occur once on each side

Resumo

  • Quase-identificadores (zip, data de nascimento, gênero) podem identificar pessoas sem um nome.
  • k é o tamanho do menor grupo que compartilha os mesmos quase-identificadores; k = 1 significa que alguém está exposto.
  • Juntar uma tabela sem nomes com uma lista pública com nomes reidentifica pessoas.
  • Tirar os nomes não é anonimizar. Aqui só há dados sintéticos; a defesa vem a seguir.
Sua vez

Escreva quasi_key(row, columns) (tupla dos valores), smallest_group(rows, columns) (o tamanho do menor grupo de linhas que compartilham uma chave: isso é k) e reidentify(released, roll, columns=QUASI), que retorna um dict do id do registro publicado para o name da lista, para cada pessoa da lista cuja chave aparece exatamente uma vez em released e exatamente uma vez em roll.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.