Die Verteidigung
Warum das wichtig istDie letzten drei Lektionen haben gezeigt, dass Namen über Fingerabdrücke, Quasi-Identifikatoren und Hashes zurückkehren. Hier sind die Werkzeuge, die tatsächlich helfen, wenn du etwas baust, das Daten über Menschen speichert oder teilt. Jedes ist einfach, und jedes hat eine Kosten, die du kennen solltest.
Vier Werkzeuge, eine Idee: teile weniger Details
Stell dir vor, eine Schule veröffentlicht Prüfungsergebnisse. Das Auflisten jeder Note, selbst ohne Namen, lässt Mitschüler herausfinden, wer wer ist. Zu sagen "der Klassendurchschnitt war 64 und 3 Schüler erhielten Bestnoten" sagt den Eltern das, was sie brauchen, mit viel weniger Risiko. Jedes Werkzeug hier ist eine Version davon.
1. Keyed hashing (ein geheimes Salt)
Salt: zusätzlicher Text, der vor dem Hashing in die Eingabe gemischt wird, damit dieselbe E-Mail einen anderen Hash ergibt. Wenn das Salt ein Geheimnis einer Organisation ist, wird es oft als Key oder Pepper bezeichnet.
HMAC: ein Standardweg um mit einem geheimen Schlüssel zu hashen. Python hat es eingebaut: hmac.new(key, message, hashlib.sha256).hexdigest().
Die Lookup-Tabelle der letzten Lektion funktioniert nur, weil jeder sha256(email) berechnen kann. Mit einem geheimen Schlüssel kann ein Außenstehender die Hashes der Kandidaten-E-Mails nicht berechnen, also ist die Tabelle nutzlos. Die Kosten: Zwei Unternehmen können keine Kunden mehr abgleichen, es sei denn, sie teilen sich den Schlüssel, was oft genau der Punkt ist. Und es schützt nur gegen Außenstehende: Wer den Schlüssel hält, kann es immer noch per Brute-Force knacken.
2. Verallgemeinern, dann unterdrücken: k
erreichenGeneralisation: Ersetzen von exakten Werten durch gröbere Werte: zip 40113 wird zu 4011*, Geburtsdatum 1987-03-03 wird zu 1980s.
Grobere Werte bilden größere Gruppen. Aber einige Gruppen bleiben winzig (in unseren Daten sind Personen mit Geschlecht X selten). Also ist der zweite Schritt suppression: lass Zeilen weg, deren Gruppe kleiner als k ist. Nach beiden Schritten teilen sich alle verbleibenden Kombinationen mindestens k Personen. Die Wahl von k (5 und 10 sind üblich) ist eine Entscheidung über das Risiko.
Ehrliche Grenzen: Wenn alle k Personen in einer Gruppe die gleiche Diagnose haben, verrät die Gruppe diese trotzdem. Und Unterdrückung entfernt die seltensten Personen, deren Daten am wichtigsten sein könnten. k-anonymity senkt das Risiko; es entfernt es nicht.
3. Aggregation
Oftentimes brauchst du überhaupt keine Zeilen. Veröffentliche Zählungen: "212 Personen mit Asthma". Kombiniere es mit Unterdrückung ("veröffentliche keine Zählung unter 10") und viele Angriffe verschwinden, weil es keine Zeile gibt, um sie mit einer öffentlichen Liste zu verknüpfen.
4. Differential privacy, sanft gemacht
Anzahlen können immer noch abfließen. Wenn die Anzahl von gestern 212 war und die von heute 213 ist, und du weißt, dass eine Person beigetreten ist, erfährst du ihre Diagnose. Differential privacy fügt jeder veröffentlichten Zahl ein wenig zufälliges Rauschen hinzu, sodass keine einzelne Person das Ergebnis auf eine Weise verändert, die jemand sehen kann.
Differential privacy: ein Versprechen, dass die veröffentlichten Ergebnisse fast gleich aussehen würden, egal ob die Daten einer einzelnen Person enthalten waren oder nicht. Es wird durch das Hinzufügen von sorgfältig dimensioniertem zufälligem Rauschen erreicht.
Epsilon: die Privatsphäre-Einstellung. Ein kleineres epsilon bedeutet mehr Rauschen und mehr Privatsphäre; ein größeres bedeutet mehr Genauigkeit und weniger Privatsphäre.
Das klassische Rauschen ist die Laplace Verteilung mit Skalierung 1 / epsilon. Ein cleverer Trick macht es aus zwei gewöhnlichen Zufallsziehungen: rng.expovariate(epsilon) - rng.expovariate(epsilon). Mit epsilon 1 weicht die veröffentlichte Anzahl im Durchschnitt um etwa 1 ab; mit epsilon 0.25 um etwa 4. Durchschnitte über große Gruppen bleiben nützlich, weil das Rauschen im Vergleich dazu klein ist und sich ausgleicht.
Die Tests laufen in einem mit einem Seed initialisierten random.Random Objekt als rng. Die Nutzung nur dieses Objekts macht dein Rauschen reproduzierbar, damit die Bewertung fair ist. Schritt 7 geht tiefer: Privacy Budgets und was passiert, wenn du viele Fragen beantwortest.
Ein häufiges Missverständnis
"Rauschen ruiniert die Daten." Für eine winzige Gruppe ist das so, und das ist der Punkt: Dort könnten Einzelpersonen exponiert werden. Für die großen Gesamtzahlen, die Menschen tatsächlich nutzen, spielen ein paar Einheiten Rauschen kaum eine Rolle.
Probier es aus Wenn du bestehst, rufe noisy_count(212, epsilon, rng) zehnmal für epsilon 2, 0.5 und 0.1 auf. Notiere die Streuung der Antworten. Welches epsilon würdest du für einen Bericht über eine Stadt mit 2.000 Einwohnern akzeptieren?
In anderen Sprachen
JavaScript (Node):
const { createHmac } = require("crypto");
const keyedHash = (email, key) =>
createHmac("sha256", key).update(email.trim().toLowerCase()).digest("hex");
// Laplace noise from two exponential draws (use a seeded generator for tests)
const expo = (rate, rand) => -Math.log(1 - rand()) / rate;
const noisyCount = (n, eps, rand) => n + expo(eps, rand) - expo(eps, rand);Go:
mac := hmac.New(sha256.New, []byte(key))
mac.Write([]byte(strings.ToLower(strings.TrimSpace(email))))
hash := hex.EncodeToString(mac.Sum(nil))
noisy := float64(count) + r.ExpFloat64()/eps - r.ExpFloat64()/epsZusammenfassung
- A ein geheimer Schlüssel (HMAC) verhindert, dass Außenstehende gehashte E-Mails per Brute-Force angreifen.
- Generalisiere, dann unterdrücke kleine Gruppen, um k-Anonymität zu erreichen; es senkt das Risiko, aber nicht auf Null.
- Veröffentliche Zählungen anstatt Zeilen und verberge kleine Zählungen.
- Differential privacy fügt Rauschen der Skalierung 1/epsilon hinzu: kleine Gruppen verschwimmen, große Durchschnitte bleiben nützlich.
Schreibe keyed_hash(email, key) (HMAC-SHA256 hex der normalisierten E-Mail, Key als UTF-8), generalise(row) (ein neues Dictionary mit zip = erste 4 Ziffern plus *, birth_decade wie "1980s", und gender und diagnosis unverändert), suppress_small(rows, columns, k) (behalte in der Reihenfolge nur Zeilen, deren Gruppe von gleichen columns Werten mindestens k Zeilen hat) und noisy_count(true_count, epsilon, rng) (füge Laplace Rauschen der Skalierung 1/epsilon hinzu, das nur aus rng gezogen wird).
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.