课程大纲 第 139 课,共 156 课 · 拦截之外的隐私技术
拦截之外的隐私技术

选择合适的工具

为什么重要 隐私工具并不能互相替换。在需要差分隐私的地方使用安全聚合,或者在一个计数就够了的地方使用 PSI,都可能恰恰泄露你本想保护的东西。产品团队每天都要做这种选择。这个练习训练的是那一个能决定答案的问题:谁应该知道什么?

问“谁知道什么”

这个模块里的每一种技术,都是一个关于知识的承诺。在挑选之前,写下每一方(用户、公司、合作伙伴、公众)以及每一方被允许知道什么。合适的工具,就是那个承诺和这份清单相符的工具。

技术它的承诺
差分隐私无论有没有任何一个人,结果都几乎不变
私有集合求交双方知道它们共有哪些条目,别的什么都不知道
PSI 基数双方只知道它们共有多少个条目
安全聚合一台服务器知道一个总数,但不知道任何一个单独的贡献
Privacy Pass一个网站知道有一个受信任的签发者为你做了担保,而且无法关联
Oblivious HTTP一方知道谁在问,另一方知道问了什么

六个场景

  1. S1。一个诊所网络想要发布每家诊所每周的就诊次数,让读到它们的任何人都没法分辨某一个特定的人是否去过,即使是知道其他所有人就诊情况的人也不行。
  2. S2。两家商店在计划一项联合会员优惠。每家都必须确切地知道自己的哪些客户也是另一家的客户,同时看不到另一家名单的其余部分。
  3. S3。一个广告商想知道,看过一则广告的人中有多少后来在一家商店买了东西。双方都不应该知道是哪些人。
  4. S4。一个健身应用想要每天根据手机计算出一座城市步行的总步数,而它的服务器永远看不到任何一部手机的计数。
  5. S5。一个论坛想要放行那些已经被一个受信任的服务检查过的访客,不给他们出谜题,也没法跨网站跟踪他们。
  6. S6。一个浏览器想要询问一个安全服务某个网站是否已知是有害的,而不让这个服务知道是哪位用户问的。

容易混淆的组合

S1 和 S4 都会得出总数。区别在于保护的是什么:安全聚合对服务器隐藏输入,却会揭示准确的总数,而差分隐私保护的是人们不被发布的输出所暴露。S2 和 S3 都会比较名单;问题在于需要的是名字,还是一个数字就够了。

如何作答

填写字典 choices:每个场景映射到一对值,也就是从 TECHNIQUES 中原样复制的技术,以及来自 PROPERTIES 的对应性质的字母。元组用圆括号书写,比如 ("secure aggregation", "D")。检查器隐藏了答案,所以要读场景,而不是读测试。

这个模块之外:另外两种工具。同态加密让一台服务器能对它读不了的数据进行计算:你发送加密的数字,它在数字仍然加密的情况下把它们相加或相乘,而只有你能解密结果。它是真实存在的,并且在不断改进,但仍然比普通的计算慢得多,所以如今它主要只在一些狭窄的任务上切实可行,比如简单的求和或查找。设备端机器学习则完全绕开了这个问题,它在你的手机或笔记本电脑上运行模型,所以数据永远不会离开;代价是模型更小,以及你设备的电量。这门课程自己的导师就是这样工作的。

用其他语言实现

同样的答题卡,写成一个 JavaScript 对象,或者一个 Go 的 map:

// JavaScript
const choices = { S4: ["secure aggregation", "D"] /* ... */ };

// Go
choices := map[string][2]string{"S4": {"secure aggregation", "D"}}

在真实的设计评审中,团队常常会在选择任何技术之前,先在设计文档里把“谁知道什么”的清单写成一张表。

回顾

  • 通过列出谁可以知道什么,再把它和技术的承诺进行匹配,来选择一种隐私技术。
  • 安全聚合隐藏输入;差分隐私保护人们不被发布的输出所暴露。
  • 只索要能回答问题的最少信息:当一个计数就够了时,用计数(PSI 基数)而不是名字。
  • 同态加密和设备端机器学习是更进一步的选择,各有实实在在的代价。
轮到你了

填写字典 choices,让 "S1" 到 "S6" 的每一个键都映射到一个元组 (technique, letter):技术从 TECHNIQUES 中原样复制,而字母(A 到 F)是它所保证的那个 PROPERTIES 中的性质。每种技术使用一次。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。