产品威胁模型
为什么重要 当你构建一个应用时,隐私问题藏在那些箭头里:数据从一个地方移动到另一个地方的那些时刻。把这些移动写成数据,再让代码去检查它们,就能在你的用户之前找到有风险的那些。这是隐私工程师在真实产品上使用的习惯。
跟着包裹走
把每一份个人数据想象成一个包裹。一款产品的威胁模型要问:每个包裹去了哪里,一路上是否密封,谁收到了它,以及他们保留多久?一条数据流就是一个包裹的旅程。
下面这款练习产品中有一条数据流被标记为非个人数据:崩溃报告,“应用版本和崩溃堆栈”。这让实验保持简单,但要把它当作一个警告,而不是一条规则:真实的崩溃报告常常携带个人数据(带有用户名的文件路径、应用崩溃时表单里的文字、日志行里的电子邮件地址),所以在一次真实的审查中,在你检查过之前,崩溃报告都应被视为个人数据。
数据流:数据从一个地方到另一个地方的一次移动,例如“注册时的电子邮件从应用发往我们的服务器”或“页面浏览记录从应用发往一个分析服务”。
第三方:任何不是你、也不是你的用户的公司或服务。一家分析服务商、一个广告网络、一个发送电子邮件的服务。
保留期限:数据在被删除之前保留多久。“永远”也是一种保留期限,而且通常是最糟糕的那种。
把数据流写成 Python 数据
每条数据流都很自然地适合放进一个字典。下面是来自一个编造的植物养护应用 plantly.example 的一条:
flow = {
"id": "photo-upload",
"data": "plant photos with location",
"personal": True, # does it point to a person?
"to": "plantly.example",
"third_party": False, # is the receiver someone other than us?
"encrypted": True, # sent over HTTPS (or similar)?
"retention_days": 90, # None means kept forever
"purpose": "identify plant disease",
}
一个好用的工具:flow.get("retention_days") 读取一个键的方式和 flow["retention_days"] 一样,但当这个键不存在时,它返回 None,而不是崩溃。测试会使用缺少某些键的数据流,所以你会需要它。
由这些字典组成的列表,就是一整款产品的数据地图。一旦它成了数据,你就可以在每次有任何变化时,用同样的规则检查每一条数据流。
四个警示信号
这里只有个人数据流才重要:一条不携带任何关于人的信息的数据流,不可能泄露关于人的任何东西。对于一条个人数据流,在以下情况时标记它:
- 未加密:网络路径上的任何人都能读到它;
- 第三方:它离开了你的控制,你得依赖另一家公司的习惯;
- 保留太久:没有保留期限(永远),或者超过 365 天;
- 没有用途:没有人写下为什么要收集它。如果你说不出为什么,你很可能就不应该收集它。
被标记的数据流并不一定就是错的。通过一个电子邮件服务发送邮件,是一条你很可能会保留的第三方数据流。这个标记的意思是“必须由一个人来看一看并做出决定”,而这正是威胁模型的用途。
一个常见的误解
“只要加密了,就是安全的。”加密保护的是路途。它完全没有说明谁收到了数据,或者他们保留多久。一条数据流可以是加密的,同时仍然是你应用里风险最高的那一条。
用其他语言实现
JavaScript:对一个对象数组应用同样的规则。
function riskReasons(f) {
if (!f.personal) return [];
const r = [];
if (!f.encrypted) r.push("not encrypted");
if (f.third_party) r.push("third party");
if (f.retention_days == null || f.retention_days > 365) r.push("kept too long");
if (!f.purpose) r.push("no purpose");
return r;
}
const flagged = Object.fromEntries(
flows.map(f => [f.id, riskReasons(f)]).filter(([, r]) => r.length)
);
Go:用一个带指针的结构体来表示“可能缺失”的保留期限。
type Flow struct {
ID, Purpose string
Personal, ThirdParty, Encrypted bool
RetentionDays *int // nil means forever
}
回顾
- 一条数据流是数据的一次移动;一组数据流就是一款产品的数据地图。
- 把数据流写成字典,能让代码用同样的规则检查每一条。
- 标记那些未加密、发往第三方、保留太久或没有用途的个人数据流。
- 一个标记意味着“由人来决定”,而仅靠加密并不能让一条数据流变得安全。
初始代码里有 FLOWS,也就是练习应用 plantly.example 的数据地图。编写两个函数:
risk_reasons(flow)为一条数据流返回一个警告字符串的列表。如果flow["personal"]为假,就返回一个空列表。否则,按这个顺序加入:- 如果
flow["encrypted"]为假,加入"not encrypted"; - 如果
flow["third_party"]为真,加入"third party"; - 如果
retention_days缺失、为None或者大于 365,加入"kept too long"; - 如果
purpose缺失或者是一个空字符串,加入"no purpose"。
- 如果
flag_risky(flows)返回一个字典,把每条被标记的数据流的"id"映射到它的原因列表。没有任何原因的数据流不计入。
flow.get(...),这样缺少某个键时就不会崩溃。最后,打印每个被标记的 id 及其原因,每行一个。
这个练习即将开放
完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。
这个浏览器屏蔽了 learn.floati.life 的 Cookie,所以你在这里完成的课程无法按顺序打开。请允许这个网站使用 Cookie,然后重新加载。