Programma Les 139 van 156 · Privacytechnologie verder dan blokkeren
Privacytechnologie verder dan blokkeren

Kies het juiste hulpmiddel

Waarom dit ertoe doet Privacy tools zijn niet uitwisselbaar. Het gebruik van secure aggregation waar je differential privacy nodig had, of PSI waar een count zou volstaan, kan precies lekken wat je wilde beschermen. Productteams maken deze keuze elke dag. Deze oefening traint de ene vraag die dit beslist: wie moet wat leren?

Vraag "wie wat leert"

Elke techniek in deze module is een belofte over kennis. Voordat je er een kiest, schrijf je elke partij op (de gebruiker, het bedrijf, een partner, het publiek) en wat elk mag leren. Het juiste hulpmiddel is degene waarvan de belofte overeenkomt met die lijst.

TechniekDe belofte
Differentielle privacyResultaten veranderen nauwelijks met of zonder één persoon
Private Set IntersectionTwee partijen leren welke items ze delen, en niets anders
PSI cardinaliteitTwee partijen leren alleen hoeveel items ze delen
Veilige aggregatieA server leert een totaal maar geen enkele bijdrage
Privacy PassA site leert dat een vertrouwde uitgever voor je heeft geborgd, onverwijgbaar
Oblivious HTTPEén partij weet wie vraagt, de andere weet wat er wordt gevraagd

De zes scenario's

  1. S1. Een klinieknetwerk wil wekelijkse aantallen bezoeken per kliniek publiceren, zodat niemand die ze leest kan zien of een bepaalde persoon is langsgekomen, zelfs niet iemand die de bezoeken van iedereen anders kent.
  2. S2. Twee winkels plannen een gezamenlijk loyaliteitsaanbod. Elke winkel moet precies weten welke van zijn eigen klanten ook klanten zijn van de andere, zonder de rest van de lijst van de andere te zien.
  3. S3. Een adverteerder wil weten hoeveel mensen die een advertentie zagen later iets kochten in een winkel. Geen van beide partijen mag leren welke mensen dat waren.
  4. S4. Een fitness app wil het totaal aantal stappen dat elke dag in een stad wordt gelopen, berekend vanuit telefoons, zonder dat de server ooit de telling van een telefoon ziet.
  5. S5. Een forum wil bezoekers binnenlaten die al zijn gecontroleerd door een vertrouwde dienst, zonder een puzzel te tonen en zonder hen over verschillende sites te kunnen volgen.
  6. S6. Een browser wil een veiligheidsdienst vragen of een site bekend staat als schadelijk, zonder dat de dienst leert welke gebruiker vroeg.

Lastige paren

S1 en S4 produceren beide totalen. Het verschil is wat beschermd wordt: secure aggregation verbergt de inputs voor de server maar onthult het exacte totaal, terwijl differential privacy mensen beschermt tegen wat de published output onthult. S2 en S3 vergelijken beide lijsten; de vraag is of namen nodig zijn of dat een getal volstaat.

Hoe je antwoordt

Vul de dict choices in: elk scenario komt overeen met een paar, de techniek exact gekopieerd van TECHNIQUES en de letter van de bijbehorende eigenschap van PROPERTIES. Een tuple wordt geschreven met ronde haakjes, zoals ("secure aggregation", "D"). De checker verbergt de antwoordsleutel, dus lees het scenario, niet de tests.

Naast dit module: nog twee tools. Homomorphic encryption laat een server berekeningen uitvoeren op data die het niet kan lezen: je stuurt versleutelde getallen, het telt of vermenigvuldigt ze terwijl ze versleuteld blijven, en alleen jij kunt het resultaat ontsleutelen. Het is echt en verbetert, maar nog steeds veel trager dan normaal rekenen, dus is het vandaag vooral praktisch voor smalle taken zoals simpele sommen of lookups. On-device machine learning vermijdt het probleem volledig door het model op je telefoon of laptop te draaien, zodat de data nooit het apparaat verlaat; de kosten zijn een kleiner model en de batterij van je apparaat. De eigen tutor van deze cursus werkt zo.

In andere talen

Hetzelfde antwoordblad als een JavaScript object, of een Go map:

// JavaScript
const choices = { S4: ["secure aggregation", "D"] /* ... */ };

// Go
choices := map[string][2]string{"S4": {"secure aggregation", "D"}}

In echte design reviews schrijven teams vaak de "wie leert wat" lijst als een tabel in het design document voordat ze een techniek kiezen.

Samenvatting

  • Kies een privacytechniek door op te schrijven wie wat mag leren, en koppel dat vervolgens aan de belofte van de techniek.
  • Secure aggregation verbergt inputs; differential privacy beschermt mensen tegen de gepubliceerde output.
  • Vraag om het minste dat de vraag beantwoordt: een aantal (PSI cardinaliteit) in plaats van namen wanneer een aantal volstaat.
  • Homomorfe versleuteling en on-device ML zijn extra opties, elk met echte kosten.
Jij bent aan de beurt

Vul de dictionary choices in zodat elke sleutel "S1" tot "S6" mapt naar een tuple (technique, letter): de techniek die exact is gekopieerd van TECHNIQUES en de letter (A tot F) van de eigenschap in PROPERTIES die het garandeert. Gebruik elke techniek één keer.

Een probleem ontdekt in deze les? Meld het · Vraag naar deze les

Deze oefening opent binnenkort

Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.