المنهج الدراسي الدرس 134 من 156 · تقنيات الخصوصية بما يتجاوز الحجب
تقنيات الخصوصية بما يتجاوز الحجب

الخصوصية التفاضلية بشكل صحيح

لماذا هذا مهم "نحن ننشر إحصاءات مجهولة فقط" كانت تبدو آمنة. رأيت في وقت سابق من هذا المسار أن الأسئلة الذكية حول مجموعة بيانات يمكن أن تحدد شخصا واحدا. الخصوصية التفاضلية هي الأداة التي تضع حدا صارما وقابلا للقياس على ذلك، وفكرتها المركزية، ميزانية الخصوصية، هي شيء يمكنك تنفيذه في فترة بعد الظهر.

تعليم الكود، وليس للاستخدام الفعلي: العشوائية في مختبرات هذه الوحدة مزروعة بحيث يكون التقييم قابلا للتكرار، وهو ما يجب ألا تفعله أنظمة الخصوصية الحقيقية أبدا. تستخدم الأنظمة الحقيقية مكتبات خصوصية تفاضلية معتمدة تتعامل أيضا مع التقريب وتسريبات أخرى دقيقة. لا تنسخ كود التعليم أبدا في منتج.

الوعد

تخيل استطلاع رأي يتم نشره بإجابتك وبدونها. إذا بدت النتيجتان المنشورتان متشابهتين تماما، فلن يتمكن أي شخص يقرأهما من معرفة ما إذا كنت قد شاركت، ناهيك عما قلته. هذا هو الوعد الكامل.

Differential privacy (DP): ضمان بأن مخرجات التحليل لا تتغير إلا بشكل طفيف سواء تم تضمين بيانات أي شخص أم لا. يتم تحقيق ذلك عن طريق إضافة ضوضاء عشوائية بأحجام محددة بعناية.

Epsilon: الرقم الذي يحدد مقدار "الحد الأدنى". قيمة epsilon صغيرة (مثل 0.1) تعني الكثير من الضجيج وخصوصية قوية؛ قيمة epsilon كبيرة (مثل 5) تعني ضجيجاً قليلاً وخصوصية ضعيفة. بالنسبة لعملية عد بسيطة، فإن إضافة Laplace noise بمقياس 1 / epsilon تعطي epsilon-DP، لأن الشخص الواحد يمكنه تغيير العدد بمقدار 1.

كحد أقصى.

الميزانية

هنا تكمن الخدعة. اطرح السؤال المزعج نفسه مرات عديدة ثم احسب متوسط الإجابات: يختفي الضجيج، كما أظهر درس الرياضيات، ويظهر العدد الحقيقي. لذا كل إجابة تسرب القليل، والتسريبات تتراكم.

Composition: عندما تجيب على عدة أسئلة حول نفس الأشخاص، تُجمع قيم epsilon الخاصة بهم. الإجابة بقيمة epsilon 0.25 أربع مرات تكلف 1.0 في المجموع.

ميزانية الخصوصية: إجمالي قيمة epsilon التي تسمح بها لمجموعة بيانات. كل إجابة تستهلك جزءا منها. عندما تنفد الميزانية، تتوقف عن الإجابة، مهما كان طلب المحلل مهذبا.

فكر في بطاقة مسبقة الدفع: كل سؤال يكلف شيئا ما، والرصيد ينخفض فقط، والسؤال المرفوض لا يكلف شيئا. إدارة السجلات هي ما ستقوم ببنائه. الضجيج يأتي جاهزا من laplace(scale, rng) في عالم الممارسة.

البرمجة الموزعة المحلية والمركزية في العالم الحقيقي

الخصوصية التفاضلية المحلية : كل جهاز يضيف ضجيجا قبل إرسال أي شيء، لذا لا تحتفظ الشركة بالقيم الحقيقية (الاستجابة العشوائية هي خصوصية تفاضلية محلية). الخصوصية التفاضلية المركزية : يحتفظ خادم موثوق بالبيانات الحقيقية ويضيف الضجيج فقط للنتائج التي ينشرها.

أعلنت

Apple في عام 2016 أنها تستخدم الخصوصية التفاضلية المحلية لتعلم أشياء مثل الكلمات الجديدة الشائعة والرموز التعبيرية من الأجهزة دون جمع ما كتبه أي شخص. كان نظام Google المبكر، RAPPOR (2014)، محليا أيضا، واستخدم لجمع الإحصائيات من متصفحه. تحتاج الخصوصية التفاضلية المحلية إلى قدر كبير من الضجيج لكل شخص، لذا فهي تعطي إجابات مفيدة فقط للأعداد الكبيرة جدا من الحشود والقيم الشائعة إلى حد ما. يستخدم الكثير من أعمال Google المنشورة لاحقا، مثل مكتبة الخصوصية التفاضلية مفتوحة المصدر (2019)، النموذج المركزي، حيث يلزم ضجيج أقل بكثير لنفس قيمة epsilon، مقابل الثقة في الخادم بالبيانات الخام.

لا يعد أي من النموذجين هو "النموذج الصحيح". تحمي DP المحلية المستخدم حتى من الشركة؛ بينما توفر DP المركزية إحصائيات أكثر دقة. يعد Secure aggregation، بعد درسين، طريقة للحصول على بعض مزايا كليهما.

في لغات أخرى

تحقق الميزانية نفسه في JavaScript:

function spend(budget, epsilon) {
  if (epsilon <= 0) return false;
  if (budget.spent + epsilon > budget.total + 1e-9) return false;
  budget.spent += epsilon;
  budget.log.push(epsilon);
  return true;
}

وفي لغة Rust، حيث تجعل قواعد الاستعارة "عدم تغيير أي شيء عند الرفض" أمرا صريحا:

fn spend(b: &mut Budget, eps: f64) -> bool {
    if eps <= 0.0 || b.spent + eps > b.total + 1e-9 { return false; }
    b.spent += eps;
    b.log.push(eps);
    true
}

لماذا 1e-9؟

تخزّن الحواسيب الأرقام العشرية تقريبياً: 0.1 + 0.2 يساوي 0.30000000000000004 في Python. بدون هامش صغير، قد يُرفض خطأً إنفاق الميزانية كاملة بالضبط على خطوات صغيرة. تتعامل المكتبات الحقيقية مع هذا بعناية أكبر؛ والهامش الصغير يكفي هنا.

A مفهوم خاطئ شائع

"الضجيج يعني أن الأرقام المنشورة خاطئة، لذا فإن DP عديم الفائدة." يتم تحديد حجم الضجيج لإخفاء شخص واحد، وليس الاتجاه العام. إن عدا 412 المنشور كـ 409 أو 415 لا يزال يخبر المتجر بأي الصفحات هي الأكثر شعبية، بينما لا يمكن استخدام عد 31 زائر لصفحة حساسة لتأكيد أن شخصا معينا كان واحدا منهم.

ملخص

    يعد
  • DP بأن النتائج لا تتغير إلا قليلا بوجود أو غياب أي شخص واحد؛ وتقيس epsilon كلمة "قليلا".
  • للحصول على عدد، تعطي ضوضاء Laplace بمقياس 1 / epsilon خصوصية تفاضلية epsilon-DP.
  • تُجمع
  • Epsilons عبر الأسئلة، لذا يجب تتبع الميزانية وفرضها، والرفض لا يكلف شيئا.
  • الخصوصية التفاضلية المحلية (الضوضاء على الجهاز) لا تثق بأحد ولكنها تحتاج إلى حشود كبيرة؛ الخصوصية التفاضلية المركزية أكثر دقة ولكنها تثق بالخادم.
دورك

اكتب أربع وظائف تدير ميزانية الخصوصية. تعيد make_budget(total) قيمة {"total": total, "spent": 0.0, "log": []}. تعيد remaining(budget) القيمة الإجمالية ناقصاً ما تم إنفاقه. تعيد spend(budget, epsilon) قيمة False ولا تغير شيئاً إذا كانت epsilon ليست رقماً محدوداً فوق 0 (0، أو سالبة، أو nan أو مالانهاية: فإذا تسللت nan فستجعل spent قيمة nan، وستنجح كل عملية فحص لاحقة، وبالتالي لن تنفد الميزانية أبداً)، أو إذا كان إنفاقها سيجعل spent فوق total بأكثر من 1e-9؛ وإلا فإنها تضيف epsilon إلى spent، وتلحقها بـ log وتعيد True. تعيد noisy_count(true_count, epsilon, budget, rng) قيمة None إذا رفض spend، وإلا تعيد true_count + laplace(1 / epsilon, rng). يتم تقييمك على إدارة السجلات، وليس على الأرقام المشوشة الدقيقة.

هل لاحظت مشكلة في هذا الدرس؟ أبلغ عنها · اسأل عن هذا الدرس

سيفتح هذا التمرين قريبا

أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.