La difesa
Perché è importante Le ultime tre lezioni hanno mostrato che i nomi tornano attraverso impronte, quasi-identificatori e hash. Ecco gli strumenti che aiutano davvero quando costruisci qualcosa che salva o condivide dati sulle persone. Ognuno è semplice, e ognuno ha un costo che dovresti conoscere.
Quattro strumenti, un'idea: condividere meno dettagli
Pensa a una scuola che pubblica i risultati degli esami. Elencare il voto di ogni alunno, anche senza nomi, permette ai compagni di capire chi è chi. Dire "la media della classe è stata 64, e 3 alunni hanno preso il voto massimo" dice ai genitori ciò che serve con molto meno rischio. Ogni strumento qui è una versione di questo.
1. Hash con chiave (un sale segreto)
Sale: testo extra mescolato nell'input prima dell'hash, così la stessa email dà un hash diverso. Quando il sale è un segreto tenuto da un'organizzazione, spesso si chiama chiave o pepe.
HMAC: un modo standard di fare l'hash con una chiave segreta. Python ce l'ha integrato: hmac.new(key, message, hashlib.sha256).hexdigest().
La tabella di ricerca della lezione precedente funziona solo perché chiunque può calcolare sha256(email). Con una chiave segreta, un estraneo non può calcolare gli hash delle email candidate, quindi la tabella è inutile. Il costo: due aziende non possono più far corrispondere i clienti a meno che non condividano la chiave, ed è spesso proprio lo scopo. E protegge solo dagli estranei: chi ha la chiave può comunque usare la forza bruta.
2. Generalizzare, poi sopprimere: raggiungere k
Generalizzazione: sostituire i valori esatti con valori più grossolani: il codice postale 40113 diventa 4011*, la data di nascita 1987-03-03 diventa 1980s.
Valori più grossolani creano gruppi più grandi. Ma alcuni gruppi restano minuscoli (nei nostri dati, le persone con genere X sono rare). Quindi il secondo passo è la soppressione: togliere le righe il cui gruppo è più piccolo di k. Dopo entrambi i passi, ogni combinazione rimasta è condivisa da almeno k persone. Scegliere k (5 e 10 sono comuni) è un giudizio sul rischio.
Limiti onesti: se tutte le k persone di un gruppo hanno la stessa diagnosi, il gruppo la rivela comunque. E la soppressione toglie le persone più rare, i cui dati potrebbero contare di più. Il k-anonimato abbassa il rischio; non lo elimina.
3. Aggregazione
Spesso non ti servono affatto le righe. Pubblica conteggi: "212 persone con l'asma". Combinalo con la soppressione ("non pubblicare nessun conteggio sotto 10") e molti attacchi spariscono, perché non c'è nessuna riga da unire a un elenco pubblico.
4. La privacy differenziale, spiegata con calma
Anche i conteggi possono far trapelare dati. Se ieri il conteggio era 212 e oggi è 213, e sai che si è aggiunta una persona, scopri la sua diagnosi. La privacy differenziale aggiunge un po' di rumore casuale a ogni numero pubblicato, così nessuna singola persona cambia il risultato in un modo che qualcuno possa vedere.
Privacy differenziale: una promessa che i risultati pubblicati sembrerebbero quasi uguali che i dati di una qualsiasi persona siano inclusi o no. Si ottiene aggiungendo rumore casuale di dimensione calcolata con cura.
Epsilon: l'impostazione della privacy. Un epsilon più piccolo significa più rumore e più privacy; uno più grande significa più precisione e meno privacy.
Il rumore classico è la distribuzione di Laplace con scala 1 / epsilon. Un trucco elegante lo crea da due normali estrazioni casuali: rng.expovariate(epsilon) - rng.expovariate(epsilon). Con epsilon 1, il conteggio pubblicato sbaglia in media di circa 1; con epsilon 0,25, di circa 4. Le medie su grandi gruppi restano utili, perché il rumore è piccolo rispetto a loro e si compensa.
I test passano un oggetto random.Random con un seme come rng. Usare solo quell'oggetto rende ripetibile il tuo rumore, così la correzione è giusta. La Tappa 7 va più a fondo: budget di privacy, e che cosa succede quando rispondi a molte domande.
Un equivoco comune
"Il rumore rovina i dati." Per un gruppo minuscolo sì, ed è proprio lo scopo: è lì che le singole persone potrebbero essere esposte. Per i grandi totali che le persone usano davvero, qualche unità di rumore conta pochissimo.
Provalo Quando superi l'esercizio, chiama noisy_count(212, epsilon, rng) dieci volte per ciascun epsilon 2, 0.5 e 0.1. Annota quanto si allargano le risposte. Quale epsilon accetteresti per un rapporto su una cittadina di 2.000 persone?
In altri linguaggi
JavaScript (Node):
const { createHmac } = require("crypto");
const keyedHash = (email, key) =>
createHmac("sha256", key).update(email.trim().toLowerCase()).digest("hex");
// Laplace noise from two exponential draws (use a seeded generator for tests)
const expo = (rate, rand) => -Math.log(1 - rand()) / rate;
const noisyCount = (n, eps, rand) => n + expo(eps, rand) - expo(eps, rand);Go:
mac := hmac.New(sha256.New, []byte(key))
mac.Write([]byte(strings.ToLower(strings.TrimSpace(email))))
hash := hex.EncodeToString(mac.Sum(nil))
noisy := float64(count) + r.ExpFloat64()/eps - r.ExpFloat64()/epsRiepilogo
- Una chiave segreta (HMAC) impedisce agli estranei di usare la forza bruta sulle email con hash.
- Generalizza, poi sopprimi i gruppi piccoli, per raggiungere il k-anonimato; abbassa il rischio, non a zero.
- Pubblica conteggi invece di righe, e nascondi i conteggi piccoli.
- La privacy differenziale aggiunge rumore di scala 1/epsilon: i gruppi minuscoli si sfumano, le grandi medie restano utili.
Scrivi keyed_hash(email, key) (l'esadecimale HMAC-SHA256 dell'email normalizzata, con la chiave in UTF-8), generalise(row) (un nuovo dict con zip = prime 4 cifre più *, birth_decade come "1980s", e gender e diagnosis invariati), suppress_small(rows, columns, k) (tieni, in ordine, solo le righe il cui gruppo di valori uguali in columns ha almeno k righe) e noisy_count(true_count, epsilon, rng) (aggiungi rumore di Laplace di scala 1/epsilon estratto solo da rng).
Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione
Questo esercizio si apre presto
Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.
Questo browser blocca i cookie per learn.floati.life, quindi le lezioni che hai finito qui non si possono aprire in ordine. Consenti i cookie per questo sito e ricarica.