Programma Lezione 54 di 156 · Misurare la privacy, con onestà
Misurare la privacy, con onestà

k-anonimato

Perché è importante Le organizzazioni spesso condividono dati dopo aver "tolto i nomi", e li chiamano anonimi. Vedrai, su dati sintetici, quanto in fretta tre fatti normali rimettono i nomi al loro posto. È così che è avvenuta la reidentificazione nel mondo reale, ed è per questo che esiste la difesa della lezione 56.

La prova del pettegolezzo

Qualcuno dice: "Una donna della nostra via, nata il 3 marzo 1981, ha appena ricevuto una diagnosi." Non è stato fatto nessun nome. Ma in una via, quante donne hanno esattamente quel compleanno? Probabilmente una. I dettagli erano il nome.

Quasi-identificatore: un fatto che non è un nome ma, combinato con pochi altri, indica una persona. CAP (codice postale), data di nascita completa e genere sono i tre classici.

Reidentificazione: rimettere i nomi su dati pubblicati senza, di solito unendoli a un altro elenco che ha i nomi.

Uno studio famoso di Latanya Sweeney del 2000 stimava che circa l'87% delle persone negli Stati Uniti potesse essere individuato solo dal codice postale, dalla data di nascita e dal genere. Uno studio successivo con dati di censimento più recenti (Golle, 2006) l'ha portato più vicino al 63%: più basso, ma comunque la maggior parte delle persone, ed è questo il punto. Vedremo lo stesso effetto su dati inventati.

I dati di esercitazione

synthetic_people(2000) costruisce una tabella sanitaria inventata: id, name, zip, birth_date, gender, diagnosis. Nessuno lì dentro è vero. La "anonimizziamo" in modo ingenuo, togliendo il nome. synthetic_public_roll(people) costruisce un elenco pubblico inventato, come il registro di un club, con nomi, codice postale, data di nascita e genere, ma senza diagnosi.

Misurare il rischio: k

k-anonimato: una tabella è k-anonima quando ogni combinazione di valori dei quasi-identificatori è condivisa da almeno k righe. k = 1 significa che almeno una persona è da sola, e può essere trovata.

Per trovare k: raggruppa le righe per la loro tupla di quasi-identificatori, conta ogni gruppo, e prendi il conteggio più piccolo. Con solo ["gender"], k è grande. Con codice postale, data di nascita e genere insieme, k scende a 1.

L'unione

Per ogni persona dell'elenco pubblico, costruisci la sua chiave (zip, birth_date, gender) e cercala nella tabella pubblicata. Sii rigoroso: conta una corrispondenza solo quando la chiave compare esattamente una volta nella pubblicazione ed esattamente una volta nell'elenco. Allora ne sei certo. Se due record condividono la chiave, non puoi dire quale è quale; se due persone dell'elenco la condividono, non puoi dire chi è chi.

reidentify(released, roll)
# {17: 'Mei Patel', 203: 'Omar Novak', ...}   record id -> name

Quando il record 17 ha un nome, ce l'ha anche la sua diagnosi. È tutto l'attacco: due elenchi dall'aspetto innocuo, un'unione.

Un equivoco comune

"Togliere nomi, email e numeri di telefono rende i dati anonimi." Toglie gli identificatori evidenti, ma le colonne rimaste possono comunque individuare le persone. Se i dati siano anonimi dipende da che cos'altro c'è in giro con cui unirli, ed è per questo che la lezione 56 cambia i dati stessi.

Provalo Quando superi l'esercizio, cambia la fraction dell'elenco da 0.6 a 0.2 ed esegui di nuovo. Il numero di corrispondenze scende, ma la quota di persone dell'elenco che reidentifichi cambia appena. Ogni persona è esposta dai propri dettagli, non da quanto è grande l'elenco.

In altri linguaggi

JavaScript:

function reidentify(released, roll, cols) {
  const key = r => JSON.stringify(cols.map(c => r[c]));
  const count = list => list.reduce((m, r) => m.set(key(r), (m.get(key(r)) || 0) + 1), new Map());
  const a = count(released), b = count(roll);
  const byKey = new Map(released.map(r => [key(r), r]));
  const found = {};
  for (const p of roll) {
    if (a.get(key(p)) === 1 && b.get(key(p)) === 1) found[byKey.get(key(p)).id] = p.name;
  }
  return found;
}

Un ragionamento in stile SQL in C# (LINQ):

var matches =
    from r in released
    join p in roll on new { r.Zip, r.BirthDate, r.Gender }
                   equals new { p.Zip, p.BirthDate, p.Gender }
    select new { r.Id, p.Name };
// then keep only keys that occur once on each side

Riepilogo

  • I quasi-identificatori (codice postale, data di nascita, genere) possono individuare le persone senza un nome.
  • k è la dimensione del gruppo più piccolo che condivide gli stessi quasi-identificatori; k = 1 significa che qualcuno è esposto.
  • Unire una tabella senza nomi a un elenco pubblico con i nomi reidentifica le persone.
  • Togliere i nomi non è anonimizzare. Qui solo dati sintetici; la difesa viene dopo.
Tocca a te

Scrivi quasi_key(row, columns) (una tupla dei valori), smallest_group(rows, columns) (la dimensione del gruppo più piccolo di righe che condividono una chiave: è k) e reidentify(released, roll, columns=QUASI), che restituisce un dict dall'id del record pubblicato al name dell'elenco per ogni persona dell'elenco la cui chiave compare esattamente una volta in released ed esattamente una volta in roll.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.