المنهج الدراسي الدرس 56 من 156 · قس الخصوصية، بصدق
قس الخصوصية، بصدق

الدفاع

لماذا هذا مهم أظهرت الدروس الثلاثة الأخيرة أن الأسماء تعود من خلال بصمات الأصابع، والمعرفات شبه الفريدة، والهاشات. إليك الأدوات التي تساعد فعليا عندما تبني شيئا يخزن أو يشارك بيانات عن الأشخاص. كل أداة بسيطة، ولكل منها تكلفة يجب أن تعرفها.

أربع أدوات، فكرة واحدة: مشاركة تفاصيل أقل

تخيل مدرسة تنشر نتائج الامتحانات. إن إدراج درجة كل تلميذ، حتى بدون أسماء، يسمح لزملاء الدراسة بمعرفة هوية كل شخص. قول "كان متوسط الفصل 64، وحصل 3 تلاميذ على درجات عليا" يخبر الآباء بما يحتاجون إليه بمخاطر أقل بكثير. كل أداة هنا هي نسخة من ذلك.

1. التجزئة بالمفاتيح (ملح سري)

Salt: نص إضافي يدمج في المدخلات قبل عملية hashing، بحيث يعطي البريد الإلكتروني نفسه hash مختلفا. عندما يكون salt سريا تحتفظ به منظمة واحدة، فإنه يسمى غالبا key أو pepper.

HMAC: طريقة قياسية للتجزئة باستخدام مفتاح سري. لغة Python توفرها مدمجة: hmac.new(key, message, hashlib.sha256).hexdigest().

جدول البحث في الدرس السابق يعمل فقط لأن أي شخص يمكنه حساب sha256(email). باستخدام مفتاح سري، لا يمكن لشخص خارجي حساب hashes لرسائل البريد الإلكتروني المرشحة، لذا يصبح الجدول عديم الفائدة. التكلفة هي أن الشركتين لا يمكنهما مطابقة العملاء إلا إذا شاركتا المفتاح، وهذا غالباً هو الهدف تماماً. كما أنه يحمي فقط ضد الغرباء: فمن يملك المفتاح لا يزال بإمكانه القيام بـ brute-force.

2. تعميم، ثم كتم: الوصول إلى k

Generalisation: استبدال القيم الدقيقة بقيم أكثر عمومية: يصبح zip 40113 هو 4011*، ويصبح تاريخ الميلاد 1987-03-03 هو 1980s.

القيم الأخشن تصنع مجموعات أكبر. لكن بعض المجموعات تبقى صغيرة جداً (في بياناتنا، الأشخاص ذوو الجنس X نادرون). لذا فالخطوة الثانية هي الحجب (suppression): استبعد الصفوف التي تكون مجموعتها أصغر من k. بعد الخطوتين، يشترك في كل تركيبة متبقية k شخص على الأقل. واختيار k (القيمتان 5 و10 شائعتان) حكمٌ على المخاطر.

القيود الصادقة: إذا كان لجميع k أشخاص في مجموعة ما نفس التشخيص، فإن المجموعة تكشف عنه رغم ذلك. ويؤدي الكتمان إلى إزالة الأشخاص الأندر، الذين قد تكون بياناتهم هي الأكثر أهمية. تقنية k-anonymity تقلل المخاطر، لكنها لا تزيلها.

3. تجميع

غالبا لا تحتاج إلى صفوف على الإطلاق. أعداد النشر: "212 شخصا مصابين بالربو". ادمجها مع التثبيط ("لا تنشر أي عدد أقل من 10") وتختفي العديد من الهجمات، لأنه لا يوجد صف للربط مع قائمة عامة.

4. الخصوصية التفاضلية، بأسلوب مبسط

يمكن أن تتسرب الأعداد حتى الآن. إذا كان عدد الأمس 212 وعدد اليوم 213، وأنت تعلم أن شخصا واحدا انضم، فستعرف تشخيصه. تضيف الخصوصية التفاضلية ضوضاء عشوائية صغيرة إلى كل رقم منشور، لذا لا يغير أي شخص بمفرده النتيجة بطريقة يمكن لأي شخص رؤيتها.

Differential privacy: وعد بأن النتائج المنشورة ستبدو متطابقة تقريبًا سواء تم تضمين بيانات أي شخص أم لا. يتم تحقيق ذلك عن طريق إضافة ضوضاء عشوائية بأحجام محددة بعناية.

Epsilon: إعداد الخصوصية. تعني قيمة epsilon الأصغر ضوضاء أكثر وخصوصية أكثر؛ بينما تعني القيمة الأكبر دقة أكثر وخصوصية أقل.

الضجيج الكلاسيكي هو توزيع Laplace بمقياس 1 / epsilon. هناك حيلة بسيطة لإنشائه من سحب عشوائية عادية اثنين: rng.expovariate(epsilon) - rng.expovariate(epsilon). مع epsilon 1، يكون العدد المنشور خاطئا بنحو 1 في المتوسط؛ ومع epsilon 0.25، بنحو 4. تظل المتوسطات عبر المجموعات الكبيرة مفيدة، لأن الضجيج صغير مقارنة بها وينعدم.

تنجح الاختبارات في كائن random.Random بذور كـ rng. استخدام ذلك الكائن فقط يجعل الضجيج الخاص بك قابلا للتكرار، لذا فإن التقييم عادل. الجزء 7 يذهب أعمق: ميزانيات الخصوصية، وماذا يحدث عندما تجيب على أسئلة كثيرة.

A مفهوم خاطئ شائع

"الضجيج يفسد البيانات." بالنسبة لمجموعة صغيرة جدا، هو يفعل ذلك، وهذا هو الهدف: هناك يمكن للأفراد أن يتعرضوا للخطر. بالنسبة للمجاميع الكبيرة التي يستخدمها الناس فعليا، فإن وحدات قليلة من الضجيج لا تهم تقريبا.

جرب ذلك عندما تنجح، استدعِ noisy_count(212, epsilon, rng) عشر مرات لكل من epsilon 2 و 0.5 و 0.1. اكتب نطاق الإجابات. أي epsilon ستقبلها لتقرير عن بلدة بها 2,000 شخص؟

في لغات أخرى

JavaScript (Node):

const { createHmac } = require("crypto");
const keyedHash = (email, key) =>
  createHmac("sha256", key).update(email.trim().toLowerCase()).digest("hex");

// Laplace noise from two exponential draws (use a seeded generator for tests)
const expo = (rate, rand) => -Math.log(1 - rand()) / rate;
const noisyCount = (n, eps, rand) => n + expo(eps, rand) - expo(eps, rand);

Go:

mac := hmac.New(sha256.New, []byte(key))
mac.Write([]byte(strings.ToLower(strings.TrimSpace(email))))
hash := hex.EncodeToString(mac.Sum(nil))

noisy := float64(count) + r.ExpFloat64()/eps - r.ExpFloat64()/eps

ملخص

  • A مفتاح سري (HMAC) يمنع الغرباء من استخدام الهجوم بالقوة الغاشمة على رسائل البريد الإلكتروني المشفرة.
  • قم بالتعميم، ثم قم بحجب المجموعات الصغيرة، للوصول إلى k-anonymity؛ هذا يقلل المخاطر، لكنه لا يلغيها تماما.
  • ينشر الأعداد بدلا من الصفوف، ويخفي الأعداد الصغيرة.
  • تضيف الخصوصية التفاضلية ضجيجا بمقياس 1/epsilon: المجموعات الصغيرة تصبح غير واضحة، والمتوسطات الكبيرة تبقى مفيدة.
دورك

اكتب keyed_hash(email, key) (قيمة HMAC-SHA256 بصيغة hex للبريد الإلكتروني المعياري، والمفتاح بصيغة UTF-8)، وgeneralise(row) (قاموس جديد يحتوي على zip = أول 4 أرقام بالإضافة إلى *، وbirth_decade مثل "1980s"، وgender وdiagnosis دون تغيير)، وsuppress_small(rows, columns, k) (احتفظ، بالترتيب، فقط بالصفوف التي تحتوي مجموعة قيم columns المتساوية فيها على k صفوف على الأقل) وnoisy_count(true_count, epsilon, rng) (أضف ضوضاء Laplace بمقياس 1/epsilon مستخرجة فقط من rng).

هل لاحظت مشكلة في هذا الدرس؟ أبلغ عنها · اسأل عن هذا الدرس

سيفتح هذا التمرين قريبا

أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.