سرفصل‌ها درس 56 از 156 · حریم خصوصی را صادقانه اندازه بگیرید
حریم خصوصی را صادقانه اندازه بگیرید

دفاع

چرا مهم است سه درس قبل نشان دادند نام‌ها از راه انگشت‌نگاری‌ها، شبه‌شناسه‌ها و هش‌ها برمی‌گردند. اینجا ابزارهایی هستند که وقتی چیزی می‌سازید که دادهٔ آدم‌ها را ذخیره یا به اشتراک می‌گذارد واقعاً کمک می‌کنند. هر کدام ساده است، و هر کدام هزینه‌ای دارد که باید بدانید.

چهار ابزار، یک ایده: جزئیات کمتری به اشتراک بگذارید

مدرسه‌ای را در نظر بگیرید که نتیجه‌های امتحان را منتشر می‌کند. فهرست‌کردن نمرهٔ هر دانش‌آموز، حتی بدون نام، به همکلاسی‌ها اجازه می‌دهد بفهمند چه کسی کیست. گفتن «میانگین کلاس 64 بود، و 3 دانش‌آموز نمرهٔ عالی گرفتند» آنچه والدین لازم دارند را با خطر بسیار کمتری می‌گوید. هر ابزار اینجا نسخه‌ای از همین است.

1. هش کلیددار (یک نمک مخفی)

نمک (salt): متن اضافه‌ای که پیش از هش‌کردن با ورودی آمیخته می‌شود، تا همان ایمیل هش متفاوتی بدهد. وقتی نمک رازی است که یک سازمان نگه می‌دارد، اغلب کلید یا فلفل (pepper) نامیده می‌شود.

HMAC: روشی استاندارد برای هش‌کردن با یک کلید مخفی. Python آن را در خود دارد: hmac.new(key, message, hashlib.sha256).hexdigest().

جدول جست‌وجوی درس قبل فقط به این دلیل کار می‌کند که هر کسی می‌تواند sha256(email) را محاسبه کند. با یک کلید مخفی، یک غریبه نمی‌تواند هش ایمیل‌های نامزد را محاسبه کند، پس جدول بی‌فایده است. هزینه: دو شرکت دیگر نمی‌توانند مشتری‌ها را تطبیق دهند مگر آنکه کلید را به اشتراک بگذارند، که اغلب دقیقاً همان نکته است. و فقط در برابر غریبه‌ها محافظت می‌کند: هر کسی که کلید را دارد همچنان می‌تواند جست‌وجوی فراگیر کند.

2. تعمیم، سپس حذف: رسیدن به k

تعمیم (generalisation): جایگزین‌کردن مقدارهای دقیق با مقدارهای درشت‌تر: کد پستی 40113 به 4011* تبدیل می‌شود، تاریخ تولد 1987-03-03 به 1980s.

مقدارهای درشت‌تر گروه‌های بزرگ‌تری می‌سازند. اما برخی گروه‌ها ریز می‌مانند (در دادهٔ ما، کسانی با جنسیت X کمیاب‌اند). پس گام دوم حذف (suppression) است: سطرهایی را که گروهشان کوچک‌تر از k است کنار بگذارید. پس از هر دو گام، هر ترکیب باقی‌مانده میان دست‌کم k نفر مشترک است. انتخاب k (5 و 10 رایج‌اند) قضاوتی دربارهٔ خطر است.

محدودیت‌های صادقانه: اگر همهٔ k نفر یک گروه همان تشخیص را داشته باشند، گروه همچنان آن را فاش می‌کند. و حذف کمیاب‌ترین آدم‌ها را برمی‌دارد، که داده‌شان ممکن است از همه مهم‌تر باشد. k-گمنامی خطر را کم می‌کند؛ حذفش نمی‌کند.

3. تجمیع

اغلب اصلاً به سطرها نیاز ندارید. شمارش‌ها را منتشر کنید: «212 نفر با آسم». آن را با حذف ترکیب کنید («هیچ شمارشی زیر 10 را منتشر نکن») و بسیاری از حمله‌ها ناپدید می‌شوند، چون هیچ سطری برای پیونددادن با یک فهرست عمومی نیست.

4. حریم خصوصی تفاضلی، به زبان ساده

شمارش‌ها همچنان می‌توانند نشت کنند. اگر شمارش دیروز 212 بود و امروز 213، و می‌دانید یک نفر پیوست، تشخیصش را می‌فهمید. حریم خصوصی تفاضلی به هر عدد منتشرشده کمی نویز تصادفی اضافه می‌کند، تا هیچ نفر تکی نتیجه را به شکلی که کسی بتواند ببیند تغییر ندهد.

حریم خصوصی تفاضلی (differential privacy): وعده‌ای که نتیجه‌های منتشرشده چه دادهٔ یک نفر شامل شده باشد چه نه تقریباً یکسان به نظر برسند. با افزودن نویز تصادفی با اندازهٔ دقیق به دست می‌آید.

اپسیلون (epsilon): تنظیم حریم خصوصی. اپسیلون کوچک‌تر یعنی نویز بیشتر و حریم خصوصی بیشتر؛ بزرگ‌تر یعنی دقت بیشتر و حریم خصوصی کمتر.

نویز کلاسیک توزیع Laplace با مقیاس 1 / epsilon است. یک ترفند تمیز آن را از دو قرعهٔ تصادفی معمولی می‌سازد: rng.expovariate(epsilon) - rng.expovariate(epsilon). با اپسیلون 1، شمارش منتشرشده به‌طور میانگین حدود 1 واحد خطا دارد؛ با اپسیلون 0.25، حدود 4 واحد. میانگین‌ها روی گروه‌های بزرگ مفید می‌مانند، چون نویز در مقایسه با آن‌ها کوچک است و همدیگر را خنثی می‌کند.

آزمون‌ها یک شیء random.Random بذردار را به‌عنوان rng به شما می‌دهند. استفادهٔ فقط از همان شیء نویز شما را تکرارپذیر می‌کند، تا نمره‌دهی منصفانه باشد. مرحلهٔ 7 عمیق‌تر می‌رود: بودجه‌های حریم خصوصی، و اینکه وقتی به پرسش‌های بسیاری پاسخ می‌دهید چه رخ می‌دهد.

یک تصور نادرست رایج

«نویز داده را خراب می‌کند.» برای یک گروه ریز می‌کند، که نکته همین است: همان‌جاست که افراد می‌توانستند در معرض قرار بگیرند. برای مجموع‌های بزرگی که آدم‌ها واقعاً استفاده می‌کنند، چند واحد نویز به‌سختی مهم است.

امتحان کنید وقتی قبول شدید، noisy_count(212, epsilon, rng) را برای اپسیلون 2، 0.5 و 0.1 هر کدام ده بار فرا بخوانید. پراکندگی پاسخ‌ها را یادداشت کنید. برای گزارشی دربارهٔ شهری با 2,000 نفر کدام اپسیلون را می‌پذیرفتید؟

در زبان‌های دیگر

JavaScript (Node):

const { createHmac } = require("crypto");
const keyedHash = (email, key) =>
  createHmac("sha256", key).update(email.trim().toLowerCase()).digest("hex");

// Laplace noise from two exponential draws (use a seeded generator for tests)
const expo = (rate, rand) => -Math.log(1 - rand()) / rate;
const noisyCount = (n, eps, rand) => n + expo(eps, rand) - expo(eps, rand);

Go:

mac := hmac.New(sha256.New, []byte(key))
mac.Write([]byte(strings.ToLower(strings.TrimSpace(email))))
hash := hex.EncodeToString(mac.Sum(nil))

noisy := float64(count) + r.ExpFloat64()/eps - r.ExpFloat64()/eps

خلاصه

  • یک کلید مخفی (HMAC) جلوی غریبه‌ها را در جست‌وجوی فراگیر ایمیل‌های هش‌شده می‌گیرد.
  • تعمیم دهید، سپس گروه‌های کوچک را حذف کنید، تا به k-گمنامی برسید؛ خطر را کم می‌کند، نه به صفر.
  • به‌جای سطرها شمارش‌ها را منتشر کنید، و شمارش‌های کوچک را پنهان کنید.
  • حریم خصوصی تفاضلی نویزی با مقیاس 1/epsilon اضافه می‌کند: گروه‌های ریز محو می‌شوند، میانگین‌های بزرگ مفید می‌مانند.
نوبت شما

keyed_hash(email, key) (هش شانزده‌شانزدهی HMAC-SHA256 ایمیل یکدست‌شده، با کلید به شکل UTF-8)، generalise(row) (یک dict تازه با zip = 4 رقم اول به‌علاوهٔ *، birth_decade مانند "1980s"، و gender و diagnosis بی‌تغییر)، suppress_small(rows, columns, k) (فقط سطرهایی را، به ترتیب، نگه دارید که گروه مقدارهای برابر columns آن‌ها دست‌کم k سطر دارد) و noisy_count(true_count, epsilon, rng) (نویز Laplace با مقیاس 1/epsilon که فقط از rng کشیده شده اضافه کنید) را بنویسید.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.