Savunma
Neden önemli Son üç ders isimlerin parmak izleri, yarı tanımlayıcılar ve hashler aracılığıyla geri döndüğünü gösterdi. İşte insanlar hakkında veri depolayan veya paylaşan bir şey inşa ederken gerçekten yardımcı olan araçlar. Her biri basit ve her birinin bilmen gereken bir maliyeti var.
Dört araç, bir fikir: daha az detay paylaş
Bir okulun sınav sonuçlarını yayınladığını düşün. İsimler olmasa bile her öğrencinin notunu listelemek, sınıf arkadaşlarının kimin kim olduğunu bulmasına izin verir. "Sınıf ortalaması 64 idi ve 3 öğrenci en yüksek notları aldı" demek, ebeveynlere çok daha az riskle ihtiyaç duydukları bilgiyi verir. Buradaki her araç bunun bir versiyonudur.
1. Anahtarlı özetleme (gizli bir tuz)
Salt: hash işlemi öncesinde girişe karıştırılan ekstra metin, böylece aynı e-posta farklı bir hash verir. Tuz bir organizasyon tarafından gizli tutulduğunda genellikle anahtar veya pepper olarak adlandırılır.
HMAC: gizli bir anahtar ile hashleme için standart bir yol. Python içinde hazır olarak sunar: hmac.new(key, message, hashlib.sha256).hexdigest().
Geçen dersin arama tablosu sadece herkes sha256(email) hesaplayabildiği için işe yarıyordu. Gizli bir anahtar ile dışarıdan biri aday e-postaların hash değerlerini hesaplayamaz, bu yüzden tablo işe yaramaz. Maliyeti şu: iki şirket anahtarı paylaşmadığı sürece müşterileri eşleştiremez, ki bu genellikle asıl amaçtır. Ve bu sadece dışarıdakilere karşı korur: anahtarı elinde tutan kişi hala brute-force yapabilir.
2. Genelleştir, sonra bastır: k
ulaşmakGenelleştirme: kesin değerleri daha kaba olanlarla değiştirme: zip 40113, 4011* olur, doğum tarihi 1987-03-03, 1980s olur.
Daha kaba değerler daha büyük gruplar oluşturur. Ama bazı gruplar küçük kalır (verilerimizde X cinsiyetine sahip kişiler nadirdir). Bu yüzden ikinci adım suppression: grubu k değerinden küçük olan satırları dışarıda bırakmaktır. Her iki adımdan sonra, kalan her kombinasyon en az k kişi tarafından paylaşılır. k seçimi (5 ve 10 yaygındır) bir risk değerlendirmesidir.
Dürüst sınırlar: bir gruptaki tüm k kişisi aynı teşhise sahipse, grup bunu yine de açığa çıkarır. Ve bastırma, verileri en önemli olabilecek en nadir kişileri eler. k-anonymity riski azaltır; onu yok etmez.
3. Aggregation
Çoğu zaman satırlara hiç ihtiyacın olmaz. Yayın sayıları: "212 astım hastası". Bunu bastırma ("10'un altındaki hiçbir sayıyı yayınlama") ile birleştir ve birçok saldırı kaybolur, çünkü halka açık bir liste ile birleştirilecek bir satır yoktur.
4. Diferansiyel gizlilik, kolaylaştırılmış
Sayımlar hala sızabilir. Eğer dünkü sayı 212 ve bugünkü 213 ise ve bir kişinin katıldığını biliyorsan, teşhisini öğrenirsin. Diferansiyel gizlilik her yayınlanan sayıya biraz rastgele gürültü ekler, böylece hiçbir kişi sonucu herkesin görebileceği bir şekilde değiştirmez.
Diferansiyel gizlilik: yayınlanan sonuçların herhangi bir kişinin verisinin dahil edilip edilmediğine bakılmaksızın neredeyse aynı görüneceğine dair bir sözdür. Bu, dikkatlice boyutlandırılmış rastgele gürültü ekleyerek sağlanır.
Epsilon: gizlilik ayarı. Daha küçük epsilon daha fazla gürültü ve daha fazla gizlilik; daha büyük epsilon daha fazla doğruluk ve daha az gizlilik demektir.
Klasik gürültü, Laplace dağılımıdır ve ölçeği 1 / epsilon. İki sıradan rastgele çekimden oluşturmak için güzel bir yöntem var: rng.expovariate(epsilon) - rng.expovariate(epsilon). Epsilon 1 ile yayınlanan sayı ortalama olarak yaklaşık 1 sapar; epsilon 0.25 ile yaklaşık 4 sapar. Büyük gruplar üzerindeki ortalamalar kullanışlı kalır çünkü gürültü onlara kıyasla küçüktür ve birbirini yok eder.
Testler random.Random nesnesi olarak rng içinde geçiyor. Sadece o nesneyi kullanmak gürültünü tekrarlanabilir kılar, bu yüzden notlandırma adildir. Bölüm 7 daha derine iniyor: gizlilik bütçeleri ve çok fazla soru cevapladığında ne olduğu.
Yaygın bir yanılgı
"Gürültü veriyi bozar." Küçük bir grup için bozuyor, asıl nokta da bu: bireylerin açığa çıkabileceği yer burası. İnsanların gerçekten kullandığı büyük toplamlar için birkaç birim gürültü neredeyse hiç önemli değil.
Kendin dene Geçtiğinde, epsilon 2, 0.5 ve 0.1 için her biri için noisy_count(212, epsilon, rng) fonksiyonunu on kez çağır. Cevapların dağılımını yaz. 2,000 kişilik bir kasaba raporu için hangi epsilon değerini kabul ederdin?
Diğer dillerde
JavaScript (Node):
const { createHmac } = require("crypto");
const keyedHash = (email, key) =>
createHmac("sha256", key).update(email.trim().toLowerCase()).digest("hex");
// Laplace noise from two exponential draws (use a seeded generator for tests)
const expo = (rate, rand) => -Math.log(1 - rand()) / rate;
const noisyCount = (n, eps, rand) => n + expo(eps, rand) - expo(eps, rand);Git:
mac := hmac.New(sha256.New, []byte(key))
mac.Write([]byte(strings.ToLower(strings.TrimSpace(email))))
hash := hex.EncodeToString(mac.Sum(nil))
noisy := float64(count) + r.ExpFloat64()/eps - r.ExpFloat64()/epsÖzet
- A gizli anahtar (HMAC) dışarıdakilerin hashlenmiş e-postaları kaba kuvvetle denemesini engeller.
- Genelleştir, sonra küçük grupları bastır, k-anonymity seviyesine ulaşmak için; bu riski düşürür, sıfıra indirmez.
- Satırlar yerine sayıları yayınla ve küçük sayıları gizle.
- Diferansiyel gizlilik 1/epsilon ölçeğinde gürültü ekler: küçük gruplar bulanıklaşır, büyük ortalamalar kullanışlı kalır.
keyed_hash(email, key) yaz (normalleştirilmiş e-postanın HMAC-SHA256 hex hali, anahtar UTF-8 olarak), generalise(row) yaz (zip = ilk 4 rakam artı *, birth_decade "1980s" gibi, gender ve diagnosis değişmeden yeni bir dict), suppress_small(rows, columns, k) yaz (sadece eşit columns değerleri grubunda en az k satırı olan satırları sırasıyla tut) ve noisy_count(true_count, epsilon, rng) yaz (sadece rng içinden çekilen 1/epsilon ölçekli Laplace gürültüsü ekle).
Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor
Bu alıştırma yakında açılacak
Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.
Bu tarayıcı learn.floati.life için çerezleri engelliyor, bu yüzden burada bitirdiğin dersler sırasıyla açılamıyor. Bu site için çerezlere izin ver ve sayfayı yenile.