课程大纲 第 56 课,共 156 课 · 诚实地衡量隐私
诚实地衡量隐私

防御

为什么重要 前三课说明了名字会通过指纹、准标识符和哈希回来。这里是当你构建一个存储或分享关于人的数据的东西时,真正有帮助的工具。每一个都很简单,而每一个都有你应该知道的代价。

四种工具,一个想法:少分享细节

想想一所学校公布考试成绩。列出每个学生的分数,哪怕没有名字,同学们也能推断出谁是谁。说“全班平均分是 64,有 3 名学生拿到了最高分”,就能以低得多的风险告诉家长他们需要知道的东西。这里的每一种工具都是这个想法的一个版本。

1. 带密钥的哈希(一份秘密的盐)

盐:在哈希之前混入输入的额外文本,让同一个电子邮件得到不同的哈希值。当这份盐是某个机构持有的秘密时,它常常被称为密钥或“胡椒”(pepper)。

HMAC:一种用秘密密钥做哈希的标准方式。Python 内置了它:hmac.new(key, message, hashlib.sha256).hexdigest()。

上一课的查找表之所以有效,只是因为任何人都能计算 sha256(email)。有了秘密密钥,外人就没法计算候选电子邮件的哈希值,所以那张表就没用了。代价是:两家公司除非共享密钥,否则就没法再匹配客户,而这常常正是目的所在。而且它只能防范外人:持有密钥的人仍然可以暴力破解它。

2. 先泛化,再抑制:达到 k

泛化:用更粗略的值替换精确的值:邮政编码 40113 变成 4011*,出生日期 1987-03-03 变成 1980s。

更粗略的值会形成更大的组。但有些组仍然很小(在我们的数据里,性别为 X 的人很少)。所以第二步是抑制:把所在组小于 k 的行排除在外。经过这两步,剩下的每一种组合都至少被 k 个人共享。选择 k(5 和 10 很常见)是一个关于风险的判断。

诚实的局限:如果一组里的全部 k 个人都有同样的诊断,这一组仍然会暴露它。而且抑制会去掉最罕见的人,而他们的数据可能最重要。k-匿名降低了风险;它并没有消除风险。

3. 聚合

你常常根本不需要逐行的数据。发布计数:“212 名哮喘患者”。再结合抑制(“任何小于 10 的计数都不发布”),许多攻击就消失了,因为没有任何行可以和公开名单连接。

4. 差分隐私,温和版

计数仍然可能泄露。如果昨天的计数是 212,今天是 213,而你知道有一个人加入了,你就知道了他们的诊断。差分隐私给每个发布的数字加上一点随机噪声,这样任何一个人都不会以别人能看出来的方式改变结果。

差分隐私:一种承诺,无论是否包含任何一个人的数据,发布的结果看起来都几乎一样。它是通过加入经过仔细确定大小的随机噪声来实现的。

Epsilon:隐私设置。epsilon 越小,噪声越多,隐私越强;越大,准确度越高,隐私越弱。

经典的噪声是尺度为 1 / epsilon 的拉普拉斯分布。一个巧妙的诀窍用两次普通的随机抽取就能生成它:rng.expovariate(epsilon) - rng.expovariate(epsilon)。epsilon 为 1 时,发布的计数平均偏差约为 1;epsilon 为 0.25 时,约为 4。对大组求的平均值依然有用,因为噪声相对于它们很小,而且会相互抵消。

测试会传入一个带种子的 random.Random 对象作为 rng。只使用这个对象,能让你的噪声可以重复,这样评分才公平。第 7 阶段会更深入:隐私预算,以及当你回答许多问题时会发生什么。

一个常见的误解

“噪声会毁掉数据。”对一个很小的组来说确实如此,而这正是目的:那正是个人可能被暴露的地方。对于人们实际使用的大总数,几个单位的噪声几乎无关紧要。

试一试 通过之后,分别用 epsilon 2、0.5 和 0.1 各调用十次 noisy_count(212, epsilon, rng)。记下答案的分布范围。对于一份关于一个 2,000 人小镇的报告,你会接受哪个 epsilon?

用其他语言实现

JavaScript(Node):

const { createHmac } = require("crypto");
const keyedHash = (email, key) =>
  createHmac("sha256", key).update(email.trim().toLowerCase()).digest("hex");

// Laplace noise from two exponential draws (use a seeded generator for tests)
const expo = (rate, rand) => -Math.log(1 - rand()) / rate;
const noisyCount = (n, eps, rand) => n + expo(eps, rand) - expo(eps, rand);

Go:

mac := hmac.New(sha256.New, []byte(key))
mac.Write([]byte(strings.ToLower(strings.TrimSpace(email))))
hash := hex.EncodeToString(mac.Sum(nil))

noisy := float64(count) + r.ExpFloat64()/eps - r.ExpFloat64()/eps

回顾

  • 秘密密钥(HMAC)能阻止外人暴力破解哈希过的电子邮件。
  • 先泛化,再抑制小组,以达到 k-匿名;它能降低风险,但不能降到零。
  • 发布计数而不是逐行数据,并隐藏小的计数。
  • 差分隐私加入尺度为 1/epsilon 的噪声:小组会变模糊,大的平均值依然有用。
轮到你了

编写 keyed_hash(email, key)(规范化后电子邮件的 HMAC-SHA256 十六进制值,密钥使用 UTF-8)、generalise(row)(一个新字典,其中 zip 为前 4 位数字加上 *,birth_decade 形如 "1980s",gender 和 diagnosis 保持不变)、suppress_small(rows, columns, k)(按原顺序,只保留那些 columns 值相同的组至少有 k 行的行)以及 noisy_count(true_count, epsilon, rng)(加上尺度为 1/epsilon、只从 rng 中抽取的拉普拉斯噪声)。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。