Kurrikulum Leson 136 van 156 · Privaatheidstegnologie verder as blokkeer
Privaatheidstegnologie verder as blokkeer

Veilige aggregasie

Hoekom dit saak maak 'n fikshelt-app wil die totale stappe in 'n stad weet; 'n sleutelbordmaker wil weet hoe gereeld 'n woord op alle fone getik word. In elke geval het die maatskappy een getal van baie toestelle nodig. Veilige aggregasie laat dit die totaal leer sonder om ooit enige persoon se waarde te sien, en dit is verrassend eenvoudig.

Onderrig kriptografie, nie veilig: die nommers in hierdie module se laboratoriums is klein genoeg om te lees en die willeke is gesaai sodat gradering herhaalbaar is. Ware stelsels gebruik getoets biblioteke en veel groter nommers. Kopieer nooit onderrigkode na 'n produk nie.

Die salaristrukie

Drie vriende wil hul gemiddelde salaris weet sonder dat enigiemand hul eie vertel. Die eerste voeg 'n groot willeke getal by haar salaris en fluister die resultaat vir die tweede. Hy voeg sy salaris by en fluister dit verder. Die derde voeg haarne by en stuur dit terug. Die eerste trek haar willeke getal af en die totaal kom uit. Elke fluister het gelyk soos 'n willeke getal vir wie ook al dit gehoor het.

Sekurige aggregasie: berekening van 'n totaal (of gemiddelde) van baie mense se waardes sodat geen enkele waarde aan enigiem bekendgestel word nie, insluitend die bediener wat hulle versamel.

Addittiewe geheime deelgang: die opdeling van 'n geheime getal in verskeie dele wat op hul eie willeke lyk maar bymekaar optel tot die geheim. Enige een deel, of enige groep wat ten minste een deel mis, verklik niks oor die geheim nie.

Hoe aandele werk

Om die getal 7,350 in drie dele te verdeel, kies twee willeke getalle en kies die derde sodat al drie bymekaar opkom tot 7,350. Met wrap-round aritmetika (modulus M, hier 2 tot die 32, 'n bietjie meer as 4 miljard), is elke deel 'n gelykverdelde willeke getal op sy eie:

M = 2 ** 32
s1, s2 = 3919211450, 120775123           # random
s3 = (7350 - s1 - s2) % M                # whatever makes it add up
print((s1 + s2 + s3) % M)                # 7350

Hoekom moet dit ronddraai? Sonder dit sou 'n deel soms negatief of verdagtig naby aan die geheim wees. Met dit is elke deelwaarde ewe waarskynlik ongeag wat die geheim is, so 'n enkele deel dra geen inligting nie.

Baie toestelle, verskeie bedieners

Nou verdeel elke foon sy stapgetal in een deel per bediener en stuur deel 1 na bediener 1, deel 2 na bediener 2, en so voort. Elke bediener tel die dele wat dit ontvang het bymekaar. Elke bediener se totaal lyk steeds willekeurig. Slegs wanneer die bedieners se totales bymekaar gevoeg word, verskyn die werklike stadstotaal. Solank die bedieners nie hul rou dele vir een foon saamvoeg nie, word geen foon se waarde ooit gesien nie.

Die werklike weergawe

Sisteme wat gebruik word om modelle oor baie fone te traineer (bekend as federated learning) gebruik 'n slimmer variant met een bediener: pare toestelle stem oor willekeurige maskers ooreen wat kanselleer wanneer alles bymekaar gevoeg word, plus ekstra stappe om fone te hanteer wat halfpad uitgaan. Die kernidee is die een wat jy gaan bou: willekeurige stukke wat net saam sin maak.

Wat doen veilige aggregasie nie

Die totaal word presies bekendgestel. As net twee mense bydrae lewer en een hul eie waarde ken, kan hulle dit aftrek en die ander een leer. As die totaal self sensitief is, voeg dan ook differensiale privaatheid-geraas by. Die twee gereedskap werk goed saam: aggregasie verberg die insets, DP verberg elke persoon se effek op die uitset.

In ander tale

Splitting in JavaScript, gebruik 32-bit wrap-round met >>> 0 en die bladser se veilige random bron:

function split(value, n) {
  const shares = Array.from(crypto.getRandomValues(new Uint32Array(n - 1)));
  const sum = shares.reduce((a, b) => (a + b) >>> 0, 0);
  shares.push((value - sum) >>> 0);
  return shares;
}

En in Rust, waar wrapping_sub op 'n u32 doen die wrap-round vir jou:

let last = value.wrapping_sub(shares.iter().fold(0u32, |a, &b| a.wrapping_add(b)));

Opsomming

  • Sekurige aggregasie onthul 'n totaal maar geen enkele bydrae nie.
  • Additiewe geheime deelverdeling verdeel 'n waarde in willeke dele wat bymekaar optel tot die waarde, deur wrap-round aritmetika te gebruik.
  • Elke bediener sien net aandele wat willekeurig lyk; net al die bedienertotale saam gee die antwoord.
  • Die totaal self word presies bekend gemaak, so koppel dit met DP-geraas wanneer die totaal iemand kan blootstel.
Jou beurt

Skryf drie funksies, gebruik M (2 to the 32) uit die oefenwêreld. split(value, n, rng) gee 'n lys van n aandele terug: die eerste n - 1 van rng.randrange(M), die laaste gelyk aan (value - sum(shares)) % M. combine(shares) gee sum(shares) % M terug. aggregate(values, n_servers, rng) verdeel elke waarde met split, voeg aandel j by aan server_totals[j] (mod M), en gee 'n tuple (total, server_totals) terug waar total = combine(server_totals).

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.