Programma Les 56 van 156 · Meet privacy, eerlijk.
Meet privacy, eerlijk.

De verdediging

Waarom dit ertoe doetDe laatste drie lessen lieten zien dat namen terugkomen via vingerafdrukken, quasi-identifiers en hashes. Hier zijn de tools die echt helpen als je iets bouwt dat gegevens over mensen opslaat of deelt. Elk is simpel, en elk heeft een kostenfactor die je moet kennen.

Vier tools, één idee: deel minder details

Denk aan een school die examenresultaten publiceert. Het opsommen van de cijfers van elke leerling, zelfs zonder namen, laat klasgenoten uitrekenen wie wie is. Zeggen dat "het klasgemiddelde 64 was en 3 leerlingen de hoogste cijfers haalden" vertelt ouders wat ze nodig hebben met veel minder risico. Elke tool hier is een versie daarvan.

1. Keyed hashing (een geheim zout)

Salt: extra tekst gemengd in de input voor het hashen, zodat hetzelfde e-mailadres een andere hash geeft. Wanneer de salt een geheim is van één organisatie, wordt het vaak een key of pepper genoemd.

HMAC: een standaard manier om te hashen met een geheime sleutel. Python heeft het ingebouwd: hmac.new(key, message, hashlib.sha256).hexdigest().

De lookup table van de vorige les werkt alleen omdat iedereen sha256(email) kan berekenen. Met een geheime sleutel kan een buitenstaander de hashes van kandidaat e-mails niet berekenen, dus is de tabel nutteloos. De kosten: twee bedrijven kunnen klanten niet meer matchen tenzij ze de sleutel delen, wat vaak precies het doel is. En het beschermt alleen tegen buitenstaanders: wie de sleutel heeft kan het nog steeds brute-forcen.

2. Generaliseer, dan onderdruk: k

bereiken

Generalisation: het vervangen van exacte waarden door grovere waarden: zip 40113 wordt 4011*, geboortedatum 1987-03-03 wordt 1980s.

Grovere waarden maken grotere groepen. Maar sommige groepen blijven klein (in onze data zijn mensen met gender X zeldzaam). De tweede stap is dus suppression: laat rijen weg waarvan de groep kleiner is dan k. Na beide stappen wordt elke overgebleven combinatie gedeeld door ten minste k mensen. Het kiezen van k (5 en 10 zijn gebruikelijk) is een oordeel over risico.

Eerlijke limieten: als alle k personen in een groep dezelfde diagnose hebben, onthult de groep dit nog steeds. En onderdrukking verwijdert de zeldzaamste mensen, wiens data het meest kunnen tellen. k-anonymity verlaagt het risico; het verwijdert het niet.

3. Aggregatie

Vaak heb je helemaal geen rijen nodig. Publicatieaantallen: "212 mensen met astma". Combineer dit met onderdrukking ("publiceer geen aantal onder de 10") en veel aanvallen verdwijnen, omdat er geen rij is om te koppelen met een publieke lijst.

4. Differential privacy, gemaakt toegankelijk

Aantallen kunnen nog steeds lekken. Als het aantal van gisteren 212 was en dat van vandaag 213, en je weet dat er één persoon is bijgekomen, dan leer je hun diagnose. Differential privacy voegt een beetje willekeurige ruis toe aan elk gepubliceerd getal, zodat geen enkele persoon het resultaat op een manier verandert die iemand kan zien.

Differential privacy: een belofte dat de gepubliceerde resultaten er bijna hetzelfde uit zouden zien of de data van een persoon nu is opgenomen of niet. Dit wordt bereikt door zorgvuldig gekozen willekeurige ruis toe te voegen.

Epsilon: de privacyinstelling. Een kleinere epsilon betekent meer ruis en meer privacy; een grotere betekent meer nauwkeurigheid en minder privacy.

De klassieke ruis is de Laplace verdeling met schaal 1 / epsilon. Een slim trucje maakt het uit twee gewone willekeurige trekkingen: rng.expovariate(epsilon) - rng.expovariate(epsilon). Met epsilon 1 wijkt het gepubliceerde aantal gemiddeld met ongeveer 1 af; met epsilon 0.25 met ongeveer 4. Gemiddelden over grote groepen blijven nuttig, omdat de ruis klein is vergeleken met die groepen en wegvalt.

De tests slagen in een seeded random.Random object als rng. Alleen dat object gebruiken maakt je ruis herhaalbaar, dus de beoordeling is eerlijk. Stap 7 gaat dieper: privacy budgets, en wat er gebeurt als je veel vragen beantwoordt.

A veelvoorkomende misvatting

"Noise ruins the data." Voor één kleine groep doet het dat, en dat is de bedoeling: daar kunnen individuen worden blootgesteld. Voor de grote totalen die mensen echt gebruiken, doen een paar eenheden ruis nauwelijks ertoe.

Probeer het Als je klaar bent, roep je noisy_count(212, epsilon, rng) tien keer aan voor epsilon 2, 0.5 en 0.1. Schrijf de spreiding van antwoorden op. Welke epsilon zou je accepteren voor een rapport over een stad van 2,000 mensen?

In andere talen

JavaScript (Node):

const { createHmac } = require("crypto");
const keyedHash = (email, key) =>
  createHmac("sha256", key).update(email.trim().toLowerCase()).digest("hex");

// Laplace noise from two exponential draws (use a seeded generator for tests)
const expo = (rate, rand) => -Math.log(1 - rand()) / rate;
const noisyCount = (n, eps, rand) => n + expo(eps, rand) - expo(eps, rand);

Go:

mac := hmac.New(sha256.New, []byte(key))
mac.Write([]byte(strings.ToLower(strings.TrimSpace(email))))
hash := hex.EncodeToString(mac.Sum(nil))

noisy := float64(count) + r.ExpFloat64()/eps - r.ExpFloat64()/eps

Samenvatting

  • A secret key (HMAC) voorkomt dat buitenstaanders gehashte e-mails brute-forcen.
  • Generaliseer, onderdruk dan kleine groepen, om k-anonymity te bereiken; het verlaagt het risico, niet naar nul.
  • Publiceer aantallen in plaats van rijen, en verberg kleine aantallen.
  • Differential privacy voegt ruis van schaal 1/epsilon toe: kleine groepen vervagen, grote gemiddelden blijven nuttig.
Jij bent aan de beurt

Schrijf keyed_hash(email, key) (HMAC-SHA256 hex van de genormaliseerde e-mail, key als UTF-8), generalise(row) (een nieuwe dictionary met zip = eerste 4 cijfers plus *, birth_decade zoals "1980s", en gender en diagnosis onveranderd), suppress_small(rows, columns, k) (houd, in volgorde, alleen rijen waarvan de groep van gelijke columns waarden ten minste k rijen heeft) en noisy_count(true_count, epsilon, rng) (voeg Laplace noise van schaal 1/epsilon toe, getrokken alleen uit rng).

Een probleem ontdekt in deze les? Meld het · Vraag naar deze les

Deze oefening opent binnenkort

Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.