Diferensiale privaatheid korrek
Waarom dit saak maak "Ons publiseer net anonieme statistieke" het voorheen veilig geklink. Vroeër in hierdie kursus het jy gesien dat slim vrae oor 'n dataset steeds een persoon kan isoleer. Differential privacy is die instrument wat 'n harde, meetbare limiet daaraan stel. Die kernidee daarvan, die privacy budget, is iets wat jy in 'n middag kan implementeer.
Onderwyskode, nie vir werklike gebruik nie: die willekeid in hierdie module se laboratoriums is gesaai sodat gradering herhaalbaar is, wat werklike privaatheidstelsels nooit moet doen nie. Werklike stelsels gebruik getoetserde differential privacy biblioteke wat ook afronding en ander subtiele lekke hanteer. Kopieer nooit onderwyskode na 'n produk nie.
Die belofte
Verbeel jou 'n opname wat gepubliseer word met en sonder jou antwoord. As die twee gepubliseerde resultate amper dieselfde lyk, dan kan niemand wat dit lees sien of jy deelgeneem het, laat staan wat jy gesê het nie. Dit is die hele belofte.
Differensiale privaatheid (DP): 'n waarborg dat die uitset van 'n analise skaars verander of enige een persoon se data ingesluit word of nie. Dit word bereik deur om noukeurig grootte-gegrade willekeurige geraas by te voeg.
Epsilon: die getal wat sê hoeveel "barely" beteken. 'n Klein epsilon (sê 0.1) beteken baie geraas en sterk privaatheid; 'n groot epsilon (sê 5) beteken min geraas en swak privaatheid. Vir 'n eenvoudige telling gee die byvoeging van Laplace noise met skaal 1 / epsilon epsilon-DP, omdat een persoon 'n telling met hoogstens 1 kan verander.
Die begroting
Hier is die vangst. Vra dieselfde raserige vraag baie keer en gemiddeld die antwoorde: die geraas kanselleer, soos die wiskundeles gewys het, en die ware getal verskyn. So elke antwoord lek 'n bietjie, en die lekke tel bymekaar op.
Composition: wanneer jy verskeie vrae oor dieselfde mense beantwoord, tel hul epsilons bymekaar op. Om vier keer met epsilon 0.25 te antwoord kos 1.0 in totaal.
Privaatheidsbegroting: die totale epsilon wat jy vir 'n datastel toelaat. Elke antwoord gebruik 'n bietjie. Wanneer die begroting op is, hou jy op om te antwoord, hoe beleefd die analist ook al vra.
Dink aan 'n voorbetaalde kaart: elke vraag kos iets, die balans gaan net af, en 'n geweerde vraag kos niks nie. Die boekhouding is wat jy gaan bou. Die geraas kom reeds gereed van laplace(scale, rng) in die oefenwêreld.
Lokaal en sentrale DP in die regte wêreld
Lokal DP: elke toestel voeg geraas by voor om iets te stuur, so die maatskappy hou nooit ware waardes nie (gerandiseerde repons is lokale DP). Sentrale DP: 'n betroubare bediener hou die ware data en voeg geraas net by die resultate wat dit publiseer.
Apple het in 2016 aangekondig dat dit plaaslike differensiale privaatheid gebruik om dinge soos gewilde nuwe woorde en emoji vanaf toestelle te leer sonder om te versamel wat enige een persoon getik het. Google se vroeëre stelsel, RAPPOR (2014), was ook plaaslik en is gebruik om statistieke van sy browser te versamel. Plaaslike DP het 'n groot hoeveelheid geraas per persoon nodig, so dit gee net nuttige antwoorde vir baie groot skare en redelik algemene waardes. Baie van Google se latere gepubliseerde werk, soos sy open-source differensiale privaatheid-biblioteek (2019), gebruik die sentrale model, waar baie minder geraas nodig is vir dieselfde epsilon, teen die prys van om die bediener met die rou data te vertrou.
Geen van die modelle is "die regte een" nie. Plokkals DP beskerm jou selfs teen die maatskappy; sentrale DP gee meer akkurate statistieke. Veilige aggregasie, twee lesse later, is een manier om 'n bietjie van albei te kry.
In ander tale
Dieselfde begrotingskontrole in JavaScript:
function spend(budget, epsilon) {
if (epsilon <= 0) return false;
if (budget.spent + epsilon > budget.total + 1e-9) return false;
budget.spent += epsilon;
budget.log.push(epsilon);
return true;
}En in Rust, waar die borrow-reëls "verander niks by weiering" eksplisiet maak:
fn spend(b: &mut Budget, eps: f64) -> bool {
if eps <= 0.0 || b.spent + eps > b.total + 1e-9 { return false; }
b.spent += eps;
b.log.push(eps);
true
}Hoekom die 1e-9?
Rekenaars stoor desimale ongeveer: 0.1 + 0.2 is 0.30000000000000004 in Python. Sonder 'n klein toegewysde bedrag kan dit verkeerd weggeweer word as jy presies die hele begrooting in klein stappies bestee. Ware biblioteke hanteer dit meer versigtig; 'n klein toegewysde bedrag is genoeg hier.
A algemene wanbeleefdheid
"Ruis beteken die gepubliseerde nommers is verkeerd, so DP is nutteloos." Die ruis is groot genoeg om een persoon te verberg, nie die neiging nie. 'n Telling van 412 wat as 409 of 415 gepubliseer word, vertel steeds vir die winkel watter bladsye gewild is. Die telling van 31 besoekers by 'n sensitiewe bladsy kan nie gebruik word om te bevestig dat 'n spesifieke persoon een van hulle was nie.
Opsomming
- DP belowe dat resultate skaars verander met of sonder enige een persoon; epsilon meet "skaars".
- Vir 'n telling, Laplace-geraas met skaal 1 / epsilon gee epsilon-DP.
- Epsilons tel op oor vrae, so 'n begroting moet dopgehou en afgedwing word, en weerskeppings kos niks nie.
- Lokale DP (geraas op die toestel) vertrou niemand nie maar het groot skare nodig; sentrale DP is meer akkuraat maar vertrou die bediener.
Skryf vier funksies wat 'n privaatheidsbegroting bestuur. make_budget(total) gee {"total": total, "spent": 0.0, "log": []} terug. remaining(budget) gee die totaal minus wat uitgegee is terug. spend(budget, epsilon) gee False terug en verander niks as epsilon nie 'n eindige getal bo 0 is (0, negatief, nan of oneindig: 'n nan wat deurgly sou spent nan maak, en elke latere kontrole sou slaag, so die begroting sou nooit opraak nie), of as dit om dit uit te gee spent bo total met meer as 1e-9 sou bring; anders voeg dit epsilon by spent by, voeg dit by log en gee True terug. noisy_count(true_count, epsilon, budget, rng) gee None terug as spend weier, anders true_count + laplace(1 / epsilon, rng). Jy word beoordeel op die boekhouding, nie op die presiese geraasagtige getalle nie.
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.