Kurrikulum Leson 56 van 156 · Meet privaatheid, eerlikwaar.
Meet privaatheid, eerlikwaar.

Die verdediging

Waarom dit saak maak Die laaste drie lesse het getoon dat name terugkom deur vingerafdrukke, kwasi-identifiseerders en hashes. Hier is die gereedskap wat werklik help wanneer jy iets bou wat data oor mense stoor of deel. Elkeen is eenvoudig, en elkeen het 'n koste wat jy moet ken.

Vier gereedskap, een idee: deel minder besonderhede

Dink aan 'n skool wat eksamenergebnisse publiseer. As jy elke leerling se punt lys, selfs sonder name, kan klasgenote uitwerk wie wie is. Om te sê "die klasgemiddelde was 64, en 3 leerlinge het topmerke gekry" vertel vir ouers wat hulle nodig het met baie minder risiko. Elke hulpmiddel hier is 'n weergawe daarvan.

1. Gesleutelde hashing ( 'n geheime sout)

Salt: ekstra teks wat by die inset voeg voor hashing, sodat dieselfde e-pos 'n ander hash gee. Wanneer die salt 'n geheim is wat deur een organisasie gehou word, word dit dikwels 'n key of pepper genoem.

HMAC: 'n standaard manier om met 'n geheime sleutel te hash. Python het dit ingebou: hmac.new(key, message, hashlib.sha256).hexdigest().

Verlede lesse se lookup table werk net omdat enigeen sha256(email) kan bereken. Met 'n geheime sleutel kan 'n buitelange persoon nie die hashes van kandidaat e-posse bereken nie, so die tabel is nutteloos. Die koste: twee maatskappye kan nie meer kliënte ooreenstem nie tensy hulle die sleutel deel, wat dikwels presies die punt is. En dit beskerm net teen buitelange persone: wie ook al die sleutel hou, kan dit steeds brute-force.

2. Generalise, dan onderdruk: bereik k

Generalisering: vervang presiese waardes met grofser waardes: zip 40113 word 4011*, geboortedatum 1987-03-03 word 1980s.

Growere waardes maak groter groepe. Maar sommige groepe bly klein (in ons data is mense met gender X skaars). Die tweede stap is dus suppression: laat rye uit waarvan die groep kleiner as k is. Na albei stappe deel elke oorblywende kombinasie met ten minste k mense. Die keuse van k (5 en 10 is algemeen) is 'n oordeel oor risiko.

Eerlike beperkings: as al k mense in 'n groep dieselfde diagnose het, onthul die groep dit steeds. En onderdrukking verwyder die skaarsste mense, wie se data dalk die meeste saak maak. k-anonymity verlaag risiko; dit verwyder dit nie nie.

3. Aggregeer

Jy dikwels nie reëls nodig hê nie. Publiseer tellings: "212 mense met asma". Kombineer dit met onderdrukking ("publiseer geen telling onder 10 nie") en baie aanvalle verdwyn, omdat daar geen ry is om met 'n publieke lys te verbind nie.

4. Differensiale privaatheid, gemaak sag

Telings kan steeds lek. As gister se telling 212 was en vandag se telling 213 is, en jy weet een persoon bygekom het, leer jy hulle diagnose. Differensiale privaatheid voeg 'n bietjie willeke geraas by elke gepubliseerde getal, sodat geen enkele persoon die resultaat op 'n manier verander wat enigiemand kan sien nie.

Differensiale privaatheid: 'n belofte dat die gepubliseerde resultate byna dieselfde sou lyk of enige een persoon se data ingesluit is of nie. Dit word bereik deur om noukeurig grootte-gegrade willekeurige geraas by te voeg.

Epsilon: die privaatheidsinstelling. 'n Kleiner epsilon beteken meer geraas en meer privaatheid; 'n groter een beteken meer akkuraatheid en minder privaatheid.

Die klassieke geraas is die Laplace-verdeling met skaal 1 / epsilon. 'n Slim truc maak dit uit twee gewone willeke trekke: rng.expovariate(epsilon) - rng.expovariate(epsilon). Met epsilon 1 is die gepubliseerde getal gemiddeld teen die afwyking van ongeveer 1; met epsilon 0.25, teen ongeveer 4. Gemiddeldes oor groot groepe bly nuttig, want die geraas is klein vergeleke met hulle en verval uit.

Die toetse slaag in 'n seeded random.Random-objek as rng. Deur net daardie objek te gebruik maak dit jou geraas herhaalbaar, so gradering is regverdig. Stap 7 gaan dieper: privaatheidsbegrotings, en wat gebeur wanneer jy baie vrae beantwoord.

A algemene wanbeleving

"Ruis vernietig die data." Vir een klein groep doen dit, wat die punt is: dit is waar individue blootgestel kan word. Vir die groot totale wat mense werklik gebruik, maak 'n paar eenhede ruis skaars saak.

Probeer dit Wanneer jy slaag, roep noisy_count(212, epsilon, rng) tien keer aan vir epsilon 2, 0.5 en 0.1. Skryf die spreiding van antwoorde neer. Watter epsilon sou jy aanvaar vir 'n verslag oor 'n dorp van 2,000 mense?

In ander tale

JavaScript (Node):

const { createHmac } = require("crypto");
const keyedHash = (email, key) =>
  createHmac("sha256", key).update(email.trim().toLowerCase()).digest("hex");

// Laplace noise from two exponential draws (use a seeded generator for tests)
const expo = (rate, rand) => -Math.log(1 - rand()) / rate;
const noisyCount = (n, eps, rand) => n + expo(eps, rand) - expo(eps, rand);

Ga:

mac := hmac.New(sha256.New, []byte(key))
mac.Write([]byte(strings.ToLower(strings.TrimSpace(email))))
hash := hex.EncodeToString(mac.Sum(nil))

noisy := float64(count) + r.ExpFloat64()/eps - r.ExpFloat64()/eps

Opsomming

  • A geheimsleutel (HMAC) keer dat buiteliques e-posse wat gehash is met brute-force probeer kraak.
  • Generalise, en onderdruk dan klein groepe om k-anonymity te bereik; dit verlaag die risiko, nie tot nul nie.
  • Publiseer tellings in plaas van rye, en verberg klein tellings.
  • Differensiale privaatheid voeg geraas by met 'n skaal van 1/epsilon: klein groepe word vaag, groot gemiddeldes bly nuttig.
Jou beurt

Skryf keyed_hash(email, key) (HMAC-SHA256 hex van die genormaliseerde e-pos, sleutel as UTF-8), generalise(row) ('n nuwe dict met zip = eerste 4 syfers plus *, birth_decade soos "1980s", en gender en diagnosis onveranderd), suppress_small(rows, columns, k) (hou, in volgorde, net rye waarvan die groep gelyke columns waardes ten minste k rye het) en noisy_count(true_count, epsilon, rng) (voeg Laplace-geraas van skaal 1/epsilon by wat slegs uit rng getrek word).

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.