Differenzielle Privatsphäre richtig
Warum das wichtig ist "Wir veröffentlichen nur anonyme Statistiken" klang früher sicher. Früher in diesem Kurs hast du gesehen, dass clevere Fragen über einen Datensatz trotzdem eine Person identifizieren können. Differential privacy ist das Werkzeug, das eine harte, messbare Grenze dafür setzt. Ihre zentrale Idee, das Budget, ist etwas, das du an einem Nachmittag implementieren kannst.
Lehrcode, nicht für den echten Gebrauch: Die Zufälligkeit in den Labs dieses Moduls ist mit einem Seed versehen, damit die Bewertung wiederholbar ist, was echte Datenschutzsysteme niemals tun dürfen. Echte Systeme nutzen geprüfte Differential Privacy Bibliotheken, die auch Rundungen und andere subtile Lecks behandeln. Kopiere Lehrcode niemals in ein Produkt.
Das Versprechen
Stell dir eine Umfrage vor, die mit und ohne deine Antwort veröffentlicht wird. Wenn die zwei veröffentlichten Ergebnisse fast gleich aussehen, dann kann niemand, der sie liest, erkennen, ob du teilgenommen hast, geschweige denn, was du gesagt hast. Das ist das ganze Versprechen.
Differential privacy (DP): eine Garantie, dass sich das Ergebnis einer Analyse kaum ändert, egal ob die Daten einer einzelnen Person enthalten sind oder nicht. Es wird durch das Hinzufügen von sorgfältig dimensioniertem zufälligem Rauschen erreicht.
Epsilon: die Zahl, die sagt, wie viel "kaum" bedeutet. Ein kleines epsilon (zum Beispiel 0.1) bedeutet viel Rauschen und starke Privatsphäre; ein großes epsilon (zum Beispiel 5) bedeutet wenig Rauschen und schwache Privatsphäre. Für eine einfache Zählung gibt das Hinzufügen von Laplace-Rauschen mit der Skalierung 1 / epsilon epsilon-DP, weil eine Person eine Zählung um höchstens 1.
Das Budget
Hier ist die Falle. Stelle die gleiche verrauschte Frage viele Male und bilde den Durchschnitt der Antworten: das Rauschen hebt sich auf, wie die Mathelektion zeigte, und die wahre Anzahl erscheint. Also leckt jede Antwort ein wenig, und die Lecks summieren sich auf.
Composition: Wenn du mehrere Fragen über dieselben Personen beantwortest, addieren sich ihre Epsilons. Das Beantworten mit Epsilon 0.25 viermal kostet insgesamt 1.0.
Privacy budget: das gesamte Epsilon, das du für einen Datensatz erlaubst. Jede Antwort verbraucht etwas davon. Wenn das Budget aufgebraucht ist, hörst du auf zu antworten, egal wie höflich der Analyst fragt.
Denk an eine Prepaid-Karte: jede Frage kostet etwas, der Kontostand sinkt nur, und eine abgelehnte Frage kostet nichts. Die Buchführung ist das, was du bauen wirst. Das Rauschen kommt fertig aus laplace(scale, rng) in der Praxiswelt.
Lokale und zentrale DP in der realen Welt
Lokale DP: jedes Gerät fügt Rauschen hinzu bevor etwas gesendet wird, also besitzt das Unternehmen nie die wahren Werte (randomisierte Antwort ist lokale DP). Zentrale DP: ein vertrauenswürdiger Server hält die wahren Daten und fügt Rauschen nur zu den Ergebnissen hinzu, die er veröffentlicht.
Apple gab 2016 bekannt, dass es lokale differentielle Privatsphäre nutzt, um Dinge wie beliebige neue Wörter und Emojis von Geräten zu lernen, ohne zu sammeln, was eine einzelne Person getippt hat. Das frühe System von Google, RAPPOR (2014), war ebenfalls lokal und wurde zum Sammeln von Statistiken aus seinem Browser verwendet. Lokale DP benötigt eine große Menge an Rauschen pro Person, also liefert es nur nützliche Antworten für sehr große Menschenmengen und ziemlich häufige Werte. Ein Großteil der später veröffentlichten Arbeiten von Google, wie seine Open-Source-Differential-Privacy-Bibliothek (2019), nutzt das zentrale Modell, wo für das gleiche Epsilon viel weniger Rauschen benötigt wird, zum Preis des Vertrauens auf den Server mit den Rohdaten.
Keines der Modelle ist "das richtige". Lokales DP schützt dich sogar vor dem Unternehmen; zentrales DP liefert genauere Statistiken. Sichere Aggregation, zwei Lektionen an, ist ein Weg, um etwas von beidem zu erhalten.
In anderen Sprachen
Der gleiche Budget check in JavaScript:
function spend(budget, epsilon) {
if (epsilon <= 0) return false;
if (budget.spent + epsilon > budget.total + 1e-9) return false;
budget.spent += epsilon;
budget.log.push(epsilon);
return true;
}Und in Rust, wo die Borrow-Regeln "ändere nichts bei Ablehnung" explizit machen:
fn spend(b: &mut Budget, eps: f64) -> bool {
if eps <= 0.0 || b.spent + eps > b.total + 1e-9 { return false; }
b.spent += eps;
b.log.push(eps);
true
}Warum 1e-9?
Computer speichern Dezimalzahlen nur annähernd: 0.1 + 0.2 ist 0.30000000000000004 in Python. Ohne einen winzigen Spielraum könnte das Ausgeben des gesamten Budgets in kleinen Schritten fälschlicherweise abgelehnt werden. Echte Bibliotheken handhaben dies sorgfältiger; ein kleiner Spielraum reicht hier aus.
Ein häufiges Missverständnis
"Rauschen bedeutet, dass die veröffentlichten Zahlen falsch sind, also ist DP nutzlos." Das Rauschen ist so groß, dass eine Person verborgen wird, nicht der Trend. Ein Zählwert von 412, der als 409 oder 415 veröffentlicht wird, sagt dem Shop immer noch, welche Seiten beliebt sind, während der Zählwert von 31 Besuchern auf einer sensiblen Seite nicht dazu verwendet werden kann, um zu bestätigen, dass eine bestimmte Person eine davon war.
Zusammenfassung
- DP verspricht, dass sich Ergebnisse kaum ändern, egal ob eine bestimmte Person dabei ist oder nicht; epsilon misst "kaum".
- Für einen Zählwert liefert Laplace-Rauschen mit der Skalierung 1 / epsilon epsilon-DP.
- Epsilons summieren sich über die Fragen hinweg, also muss ein Budget verfolgt und durchgesetzt werden, und Ablehnungen kosten nichts.
- Lokale DP (Rauschen auf dem Gerät) vertraut niemandem, braucht aber große Menschenmengen; zentrale DP ist genauer, aber vertraut dem Server.
Schreibe vier Funktionen, die ein Budget verwalten. make_budget(total) gibt {"total": total, "spent": 0.0, "log": []} zurück. remaining(budget) gibt total minus spent zurück. spend(budget, epsilon) gibt False zurück und ändert nichts, wenn epsilon keine endliche Zahl über 0 ist (0, negativ, nan oder unendlich: eine nan, die durchrutscht, würde spent nan machen, und jede spätere Prüfung würde bestehen, also würde das Budget nie ausgehen), oder wenn das Ausgeben es spent über total um mehr als 1e-9 bringen würde; ansonsten addiert es epsilon zu spent, hängt es an log an und gibt True zurück. noisy_count(true_count, epsilon, budget, rng) gibt None zurück, wenn spend ablehnt, ansonsten true_count + laplace(1 / epsilon, rng). Du wirst für die Buchführung bewertet, nicht für die exakten verrauschten Zahlen.
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.