Kurrikulum Leson 139 van 156 · Privaatheidstegnologie verder as blokkeer
Privaatheidstegnologie verder as blokkeer

Kies die regte hulpbron

Waarom dit saak maak Privaatheidstools is nie uitruilbaar nie. As jy secure aggregation gebruik waar jy differential privacy nodig gehad het, of PSI waar 'n count genoeg sou wees, kan dit presies lek wat jy wou beskerm. Produkspanne maak hierdie keuse elke dag. Hierdie oefening oefen die een vraag wat dit beslis: wie moet wat leer?

Vraag "wie leer wat"

Elke tegniek in hierdie module is 'n belofte oor kennis. Voordat jy een kies, skryf elke party (die gebruiker, die maatskappy, 'n vennoot, die publiek) neer en wat elk toegelaat is om te leer. Die regte hulpmiddel is die een wie se belofte by daardie lys pas.

TegniekSy se belofte
Differensiale privaatheidResultate verander skaars met of sonder enige een persoon
Privaat Stel SnypuntTwee partye leer watter items hulle deel, en niks anders nie
PSI kardinaliteitTwee partye leer net hoeveel items hulle deel
Sekurige aggregasieA-bediener leer 'n totaal maar geen enkele bydrae nie
PrivaatpasA-webwerf leer dat 'n betroubare uitreiker vir jou borging gegee het, onherleensbaar
Oblivious HTTPEen party weet wie vra, 'n ander weet wat gevra word

Die ses scenario's

  1. S1. 'n klinieknetwerk wil weeklikse tellings van besoeke na elke kliniek publiseer, sodat niemand wat dit lees kan sien of 'n spesifieke persoon besoek het nie, selfs iemand wat weet van al ander mense se besoeke.
  2. S2. Twee winkels beplan 'n gesamentlike lojaliteitsoffer. Elkeen moet presies weet watter van sy eie kliënte ook kliënte van die ander een is, sonder om die res van die ander se lys te sien.
  3. S3. 'n Adverteerder wil weet hoeveel mense wat 'n advertensie gesien het, later iets by 'n winkel gekoop het. Geen van die twee kante mag leer watter mense dit was nie.
  4. S4. 'n fikshelt-app wil die totale stappe wat in 'n stad elke dag geloop word, bereken vanaf fone, sonder dat die bediener ooit enige een foon se telling sien.
  5. S5. 'n forum wil besoekers wat reeds deur 'n betroubare diens nagekeer is, toelaat sonder om 'n raaisel te wys en sonder om hulle oor webwerwe te kan volg.
  6. S6. 'n Blutser wil by 'n veiligheidsdiens vra of 'n webwerf skadelik is, sonder dat die diens weet watter gebruiker gevra het.

Verrade pare

S1 en S4 produseer albei totale. Die verskil is wat beskerm word: secure aggregation verberg die inputs van die bediener maar onthul die presiese totaal, terwyl differential privacy mense beskerm teen wat die published output onthul. S2 en S3 vergelyk albei lysse; die vraag is of name nodig is of of 'n getal sal werk.

Hoe om te antwoord

Vul die dict choices in: elke scenario kaart na 'n paar, die tegniek wat presies vanaf TECHNIQUES gekopie is en die letter van die ooreenstemmende eienskap vanaf PROPERTIES. 'n tuple word met ronde hakies geskryf, soos ("secure aggregation", "D"). Die kontroleerder verberg die antwoordsleutel, so lees die scenario, nie die toetse nie.

Buiten hierdie module: nog twee gereedskap. Homomorfiese enkripsie laat 'n bediener op data bereken wat dit nie kan lees nie: jy stuur enkripteerde getalle, dit tel of vermenigvuldig hulle terwyl hulle nog enkripteer, en net jy kan die resultaat dekripteer. Dit is werklik en verbeter, maar steeds baie stadiger as normale berekening, so is dit vandag hoofsaaklik prakties vir smal take soos eenvoudige somme of soektogte. On-device machine learning vermy die probleem heeltemal deur die model op jou foon of skootrekenaar te hardloop, so die data verlaat nooit die toestel nie; die koste is 'n kleiner model en jou toestel se battery. Hierdie kursus se eie tutor werk so.

In ander tale

Dieselfde antwoordstaat as 'n JavaScript object, of 'n Go map:

// JavaScript
const choices = { S4: ["secure aggregation", "D"] /* ... */ };

// Go
choices := map[string][2]string{"S4": {"secure aggregation", "D"}}

In werklike ontwerpbeoordelinge skryf spanne dikwels die "wie leer wat" lys as 'n tabel in die ontwerpdokument voordat hulle enige tegniek kies.

Opsomming

  • Kies 'n privaatheidstegniek deur op te lys wie wat mag leer, en pas dit dan by die tegniek se belofte.
  • Sekure aggregasie verberg insets; differensiale privaatheid beskerm mense teen die gepubliseerde uitset.
  • Vra vir die minste wat die vraag beantwoord: 'n telling (PSI kardinaliteit) in plaas van name wanneer 'n telling sal doen.
  • Homomorfiese enkripsie en on-device ML is verdere opsies, elk met werklike koste.
Jou beurt

Vul die dict choices in sodat elke sleutel "S1" tot "S6" na 'n tuple (technique, letter) kaart: die tegniek wat presies vanaf TECHNIQUES gekopie is en die letter (A tot F) van die eienskap in PROPERTIES wat dit waarborg. Gebruik elke tegniek een keer.

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.