سرفصل‌ها درس 134 از 156 · فناوری حریم خصوصی فراتر از مسدودسازی
فناوری حریم خصوصی فراتر از مسدودسازی

حریم خصوصی تفاضلی به‌درستی

چرا مهم است «ما فقط آمار ناشناس منتشر می‌کنیم» زمانی امن به نظر می‌رسید. پیش‌تر در این دوره دیدید که پرسش‌های زیرکانه دربارهٔ یک مجموعه‌داده هنوز می‌توانند یک نفر را مشخص کنند. حریم خصوصی تفاضلی ابزاری است که حدی سخت و قابل اندازه‌گیری بر این کار می‌گذارد، و ایدهٔ اصلی آن، یعنی بودجهٔ حریم خصوصی، چیزی است که می‌توانید در یک بعدازظهر پیاده کنید.

کد آموزشی، نه برای استفادهٔ واقعی: تصادفی بودن در آزمایشگاه‌های این ماژول بذر ثابت دارد تا نمره‌دهی تکرارپذیر باشد، کاری که سیستم‌های واقعی حریم خصوصی هرگز نباید بکنند. سیستم‌های واقعی از کتابخانه‌های بررسی‌شدهٔ حریم خصوصی تفاضلی استفاده می‌کنند که گرد کردن و نشت‌های ظریف دیگر را هم مدیریت می‌کنند. هرگز کد آموزشی را در یک محصول کپی نکنید.

وعده

نظرسنجی‌ای را تصور کنید که یک بار با پاسخ شما و یک بار بدون آن منتشر می‌شود. اگر دو نتیجهٔ منتشرشده تقریباً یکسان به نظر برسند، هیچ خواننده‌ای نمی‌تواند بفهمد شما شرکت کرده‌اید یا نه، چه رسد به اینکه چه گفته‌اید. همهٔ وعده همین است.

حریم خصوصی تفاضلی (DP): تضمینی که خروجی یک تحلیل، چه داده‌های یک نفر در آن باشد چه نباشد، به‌سختی تغییر می‌کند. این کار با افزودن نویز تصادفی با اندازهٔ دقیق انجام می‌شود.

اپسیلون: عددی که می‌گوید «به‌سختی» یعنی چقدر. اپسیلون کوچک (مثلاً 0.1) یعنی نویز زیاد و حریم خصوصی قوی؛ اپسیلون بزرگ (مثلاً 5) یعنی نویز کم و حریم خصوصی ضعیف. برای یک شمارش ساده، افزودن نویز لاپلاس با مقیاس 1 / epsilon حریم خصوصی تفاضلی با اپسیلون را می‌دهد، چون یک نفر حداکثر 1 واحد می‌تواند یک شمارش را تغییر دهد.

بودجه

نکتهٔ مهم اینجاست. یک پرسش نویزدار را بارها بپرسید و پاسخ‌ها را میانگین بگیرید: همان‌طور که درس ریاضی نشان داد نویز خنثی می‌شود و شمارش واقعی ظاهر می‌شود. پس هر پاسخ کمی نشت می‌دهد و این نشت‌ها روی هم جمع می‌شوند.

ترکیب: وقتی به چند پرسش دربارهٔ همان افراد پاسخ می‌دهید، اپسیلون‌هایشان جمع می‌شوند. چهار بار پاسخ دادن با اپسیلون 0.25 در مجموع 1.0 هزینه دارد.

بودجهٔ حریم خصوصی: کل اپسیلونی که برای یک مجموعه‌داده مجاز می‌دانید. هر پاسخ مقداری از آن را خرج می‌کند. وقتی بودجه تمام شد، دیگر پاسخ نمی‌دهید، هر قدر هم تحلیلگر مؤدبانه درخواست کند.

یک کارت پیش‌پرداخت را در نظر بگیرید: هر پرسش هزینه‌ای دارد، موجودی فقط پایین می‌رود و پرسش ردشده هزینه‌ای ندارد. حسابداری آن چیزی است که شما می‌سازید. نویز آماده از laplace(scale, rng) در دنیای تمرین می‌آید.

DP محلی و مرکزی در دنیای واقعی

DP محلی: هر دستگاه پیش از فرستادن هر چیزی نویز اضافه می‌کند، پس شرکت هرگز مقدارهای واقعی را در اختیار ندارد (پاسخ تصادفی‌شده DP محلی است). DP مرکزی: یک سرور مورد اعتماد دادهٔ واقعی را نگه می‌دارد و فقط به نتایجی که منتشر می‌کند نویز اضافه می‌کند.

اپل در 2016 اعلام کرد که از حریم خصوصی تفاضلی محلی استفاده می‌کند تا چیزهایی مثل واژه‌ها و ایموجی‌های تازهٔ پرطرفدار را از دستگاه‌ها یاد بگیرد، بی‌آنکه آنچه هر فرد تایپ کرده را جمع کند. سیستم اولیهٔ گوگل، RAPPOR (2014)، هم محلی بود و برای جمع‌آوری آمار از مرورگرش به کار می‌رفت. DP محلی برای هر نفر نویز بسیار زیادی لازم دارد، پس فقط برای جمعیت‌های بسیار بزرگ و مقدارهای نسبتاً رایج پاسخ مفید می‌دهد. بخش زیادی از کارهای منتشرشدهٔ بعدی گوگل، مثل کتابخانهٔ متن‌باز حریم خصوصی تفاضلی‌اش (2019)، از مدل مرکزی استفاده می‌کند که در آن برای همان اپسیلون نویز بسیار کمتری لازم است، به بهای اعتماد به سرور برای دادهٔ خام.

هیچ‌کدام از این دو مدل «مدل درست» نیست. DP محلی حتی در برابر شرکت از شما محافظت می‌کند؛ DP مرکزی آمار دقیق‌تری می‌دهد. تجمیع امن، دو درس بعد، یکی از راه‌های رسیدن به بخشی از هر دو است.

در زبان‌های دیگر

همان بررسی بودجه در جاوااسکریپت:

function spend(budget, epsilon) {
  if (epsilon <= 0) return false;
  if (budget.spent + epsilon > budget.total + 1e-9) return false;
  budget.spent += epsilon;
  budget.log.push(epsilon);
  return true;
}

و در Rust، جایی که قواعد قرض‌گیری «در صورت رد، هیچ چیز را تغییر نده» را صریح می‌کنند:

fn spend(b: &mut Budget, eps: f64) -> bool {
    if eps <= 0.0 || b.spent + eps > b.total + 1e-9 { return false; }
    b.spent += eps;
    b.log.push(eps);
    true
}

چرا 1e-9؟

کامپیوترها اعداد اعشاری را تقریبی ذخیره می‌کنند: 0.1 + 0.2 در پایتون 0.30000000000000004 است. بدون یک اغماض کوچک، خرج کردن دقیقاً کل بودجه در گام‌های کوچک ممکن است به‌اشتباه رد شود. کتابخانه‌های واقعی این را با دقت بیشتری مدیریت می‌کنند؛ اینجا یک اغماض کوچک کافی است.

یک تصور نادرست رایج

«نویز یعنی اعداد منتشرشده غلط‌اند، پس DP بی‌فایده است.» اندازهٔ نویز برای پنهان کردن یک نفر تعیین شده، نه روند. شمارش 412 که به‌صورت 409 یا 415 منتشر شود هنوز به فروشگاه می‌گوید کدام صفحه‌ها پرطرفدارند، در حالی که شمارش 31 بازدیدکنندهٔ یک صفحهٔ حساس را نمی‌توان برای تأیید اینکه فرد خاصی یکی از آن‌ها بوده به کار برد.

خلاصه

  • DP وعده می‌دهد که نتایج با یا بدون هر فرد به‌سختی تغییر کنند؛ اپسیلون «به‌سختی» را اندازه می‌گیرد.
  • برای یک شمارش، نویز لاپلاس با مقیاس 1 / epsilon حریم خصوصی تفاضلی با اپسیلون را می‌دهد.
  • اپسیلون‌ها در میان پرسش‌ها جمع می‌شوند، پس بودجه باید پیگیری و اعمال شود، و ردها هزینه‌ای ندارند.
  • DP محلی (نویز روی دستگاه) به هیچ‌کس اعتماد نمی‌کند اما جمعیت‌های عظیم لازم دارد؛ DP مرکزی دقیق‌تر است اما به سرور اعتماد می‌کند.
نوبت شما

چهار تابع بنویسید که یک بودجهٔ حریم خصوصی را مدیریت کنند. make_budget(total) مقدار {"total": total, "spent": 0.0, "log": []} را برمی‌گرداند. remaining(budget) کل منهای خرج‌شده را برمی‌گرداند. spend(budget, epsilon) اگر epsilon عددی متناهی و بزرگ‌تر از 0 نباشد (0، منفی، nan یا بی‌نهایت: یک nan که از دست در برود spent را nan می‌کند و هر بررسی بعدی قبول می‌شود، پس بودجه هرگز تمام نمی‌شود)، یا اگر خرج کردن آن spent را بیش از 1e-9 از total بالاتر ببرد، False برمی‌گرداند و هیچ چیز را تغییر نمی‌دهد؛ در غیر این صورت epsilon را به spent اضافه می‌کند، آن را به log می‌افزاید و True برمی‌گرداند. noisy_count(true_count, epsilon, budget, rng) اگر spend رد کند None برمی‌گرداند، وگرنه true_count + laplace(1 / epsilon, rng). نمرهٔ شما بر اساس حسابداری است، نه اعداد نویزدار دقیق.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.