Silabus Pelajaran 56 dari 156 · Ukur privasi, jujur saja.
Ukur privasi, jujur saja.

Pertahanan

Kenapa ini penting Tiga pelajaran terakhir menunjukkan bahwa nama bisa terlacak kembali melalui sidik jari, quasi-identifiers, dan hashes. Berikut adalah alat yang benar-benar membantu saat kamu membangun sesuatu yang menyimpan atau membagikan data tentang orang. Masing-masing sederhana, dan masing-masing punya biaya yang harus kamu tahu.

Empat alat, satu ide: bagikan lebih sedikit detail

Bayangkan sebuah sekolah yang mempublikasikan hasil ujian. Mencantumkan nilai setiap murid, bahkan tanpa nama, membuat teman sekelas bisa menebak siapa siapa. Mengatakan "rata-rata kelas adalah 64, dan 3 murid mendapat nilai tertinggi" memberi tahu orang tua apa yang mereka butuhkan dengan risiko yang jauh lebih kecil. Setiap alat di sini adalah versi dari hal itu.

1. Hashing dengan kunci (salt rahasia)

Salt: teks tambahan yang dicampur ke dalam input sebelum hashing, jadi email yang sama menghasilkan hash yang berbeda. Saat salt adalah rahasia yang disimpan oleh satu organisasi, ini sering disebut sebagai key atau pepper.

HMAC: cara standar untuk melakukan hash dengan secret key. Python sudah menyediakannya: hmac.new(key, message, hashlib.sha256).hexdigest().

Tabel pencarian pelajaran terakhir hanya berfungsi karena siapa pun bisa menghitung sha256(email). Dengan kunci rahasia, orang luar tidak bisa menghitung hash dari email kandidat, jadi tabelnya jadi tidak berguna. Biayanya: dua perusahaan tidak bisa lagi mencocokkan pelanggan kecuali mereka berbagi kunci, yang sering kali justru menjadi tujuannya. Dan ini hanya melindungi dari orang luar: siapa pun yang memegang kunci masih bisa melakukan brute-force.

2. Generalisasikan, lalu tekan: mencapai k

Generalisation: mengganti nilai eksak dengan yang lebih umum: zip 40113 menjadi 4011*, tanggal lahir 1987-03-03 menjadi 1980s.

Nilai

yang lebih kasar membuat kelompok yang lebih besar. Tapi beberapa kelompok tetap kecil (dalam data kita, orang dengan gender X itu langka). Jadi langkah kedua adalah suppression: abaikan baris yang kelompoknya lebih kecil dari k. Setelah kedua langkah, setiap kombinasi yang tersisa dimiliki oleh setidaknya k orang. Memilih k (5 dan 10 adalah yang umum) adalah penilaian tentang risiko.

Batasan jujur: jika semua k orang dalam kelompok memiliki diagnosis yang sama, kelompok tersebut tetap mengungkapkannya. Dan penekanan menghapus orang yang paling langka, yang datanya mungkin paling penting. k-anonymity menurunkan risiko; ia tidak menghilangkannya.

3. Agregasi

Oleh kamu tidak butuh baris sama sekali. Jumlah publikasi: "212 orang dengan asma". Gabungkan dengan penekanan ("jangan publikasikan jumlah di bawah 10") dan banyak serangan akan hilang, karena tidak ada baris untuk digabungkan dengan daftar publik.

4. Privasi diferensial, dibuat lebih mudah

Jumlah tetap bisa bocor. Jika jumlah kemarin adalah 212 dan hari ini 213, dan kamu tahu satu orang bergabung, kamu jadi tahu diagnosis mereka. Differential privacy menambahkan sedikit noise acak ke setiap angka yang dipublikasikan, jadi tidak ada satu orang pun yang mengubah hasil dengan cara yang bisa dilihat siapa pun.

Differential privacy: janji bahwa hasil yang dipublikasikan akan terlihat hampir sama terlepas dari apakah data satu orang disertakan atau tidak. Ini dicapai dengan menambahkan noise acak dengan ukuran yang diatur dengan hati-hati.

Epsilon: pengaturan privasi. Epsilon yang lebih kecil berarti lebih banyak noise dan lebih banyak privasi; yang lebih besar berarti lebih akurat dan lebih sedikit privasi.

Noise klasik adalah distribusi Laplace dengan skala 1 / epsilon. Trik keren membuatnya dari dua pengambilan acak biasa: rng.expovariate(epsilon) - rng.expovariate(epsilon). Dengan epsilon 1, jumlah yang dipublikasikan meleset sekitar 1 rata-rata; dengan epsilon 0.25, meleset sekitar 4. Rata-rata pada grup besar tetap berguna, karena noise kecil dibandingkan dengan mereka dan saling meniadakan.

Tes uji lulus dalam objek random.Random yang diberi seed sebagai rng. Menggunakan objek itu saja membuat noise kamu bisa diulang, jadi penilaian jadi adil. Tahap 7 lebih dalam: anggaran privasi, dan apa yang terjadi saat kamu menjawab banyak pertanyaan.

Kesalahpahaman umum

"Noise merusak data." Untuk satu kelompok kecil, hal itu terjadi, dan itulah intinya: di situlah individu bisa terpapar. Untuk total besar yang sebenarnya digunakan orang, beberapa unit noise hampir tidak berpengaruh.

Coba sendiri Saat kamu lulus, panggil noisy_count(212, epsilon, rng) sepuluh kali masing-masing untuk epsilon 2, 0.5 dan 0.1. Catat rentang jawabannya. Epsilon mana yang akan kamu terima untuk laporan kota dengan 2,000 orang?

Di bahasa lain

JavaScript (Node):

const { createHmac } = require("crypto");
const keyedHash = (email, key) =>
  createHmac("sha256", key).update(email.trim().toLowerCase()).digest("hex");

// Laplace noise from two exponential draws (use a seeded generator for tests)
const expo = (rate, rand) => -Math.log(1 - rand()) / rate;
const noisyCount = (n, eps, rand) => n + expo(eps, rand) - expo(eps, rand);

Go:

mac := hmac.New(sha256.New, []byte(key))
mac.Write([]byte(strings.ToLower(strings.TrimSpace(email))))
hash := hex.EncodeToString(mac.Sum(nil))

noisy := float64(count) + r.ExpFloat64()/eps - r.ExpFloat64()/eps

Ringkasan

  • A kunci rahasia (HMAC) mencegah orang luar melakukan brute-force pada email yang di-hash.
  • Generalise, lalu tekan kelompok kecil, untuk mencapai k-anonymity; ini menurunkan risiko, bukan ke nol.
  • Publikasikan jumlah bukannya baris, dan sembunyikan jumlah kecil.
  • Differential privacy menambahkan noise skala 1/epsilon: grup kecil jadi kabur, rata-rata besar tetap berguna.
Giliranku

Tulis keyed_hash(email, key) (HMAC-SHA256 hex dari email yang dinormalisasi, key sebagai UTF-8), generalise(row) (dict baru dengan zip = 4 digit pertama ditambah *, birth_decade seperti "1980s", dan gender serta diagnosis tetap), suppress_small(rows, columns, k) (simpan, sesuai urutan, hanya baris yang grup nilai columns yang sama memiliki setidaknya k baris) dan noisy_count(true_count, epsilon, rng) (tambahkan Laplace noise dengan skala 1/epsilon yang diambil hanya dari rng).

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.