课程大纲 第 94 课,共 156 课 · 威胁建模
威胁建模

产品威胁模型

为什么重要 当你构建一个应用时,隐私问题藏在那些箭头里:数据从一个地方移动到另一个地方的那些时刻。把这些移动写成数据,再让代码去检查它们,就能在你的用户之前找到有风险的那些。这是隐私工程师在真实产品上使用的习惯。

跟着包裹走

把每一份个人数据想象成一个包裹。一款产品的威胁模型要问:每个包裹去了哪里,一路上是否密封,谁收到了它,以及他们保留多久?一条数据流就是一个包裹的旅程。

下面这款练习产品中有一条数据流被标记为非个人数据:崩溃报告,“应用版本和崩溃堆栈”。这让实验保持简单,但要把它当作一个警告,而不是一条规则:真实的崩溃报告常常携带个人数据(带有用户名的文件路径、应用崩溃时表单里的文字、日志行里的电子邮件地址),所以在一次真实的审查中,在你检查过之前,崩溃报告都应被视为个人数据。

数据流:数据从一个地方到另一个地方的一次移动,例如“注册时的电子邮件从应用发往我们的服务器”或“页面浏览记录从应用发往一个分析服务”。

第三方:任何不是你、也不是你的用户的公司或服务。一家分析服务商、一个广告网络、一个发送电子邮件的服务。

保留期限:数据在被删除之前保留多久。“永远”也是一种保留期限,而且通常是最糟糕的那种。

把数据流写成 Python 数据

每条数据流都很自然地适合放进一个字典。下面是来自一个编造的植物养护应用 plantly.example 的一条:

flow = {
    "id": "photo-upload",
    "data": "plant photos with location",
    "personal": True,          # does it point to a person?
    "to": "plantly.example",
    "third_party": False,      # is the receiver someone other than us?
    "encrypted": True,         # sent over HTTPS (or similar)?
    "retention_days": 90,      # None means kept forever
    "purpose": "identify plant disease",
}

一个好用的工具:flow.get("retention_days") 读取一个键的方式和 flow["retention_days"] 一样,但当这个键不存在时,它返回 None,而不是崩溃。测试会使用缺少某些键的数据流,所以你会需要它。

由这些字典组成的列表,就是一整款产品的数据地图。一旦它成了数据,你就可以在每次有任何变化时,用同样的规则检查每一条数据流。

四个警示信号

这里只有个人数据流才重要:一条不携带任何关于人的信息的数据流,不可能泄露关于人的任何东西。对于一条个人数据流,在以下情况时标记它:

  1. 未加密:网络路径上的任何人都能读到它;
  2. 第三方:它离开了你的控制,你得依赖另一家公司的习惯;
  3. 保留太久:没有保留期限(永远),或者超过 365 天;
  4. 没有用途:没有人写下为什么要收集它。如果你说不出为什么,你很可能就不应该收集它。

被标记的数据流并不一定就是错的。通过一个电子邮件服务发送邮件,是一条你很可能会保留的第三方数据流。这个标记的意思是“必须由一个人来看一看并做出决定”,而这正是威胁模型的用途。

一个常见的误解

“只要加密了,就是安全的。”加密保护的是路途。它完全没有说明谁收到了数据,或者他们保留多久。一条数据流可以是加密的,同时仍然是你应用里风险最高的那一条。

用其他语言实现

JavaScript:对一个对象数组应用同样的规则。

function riskReasons(f) {
  if (!f.personal) return [];
  const r = [];
  if (!f.encrypted) r.push("not encrypted");
  if (f.third_party) r.push("third party");
  if (f.retention_days == null || f.retention_days > 365) r.push("kept too long");
  if (!f.purpose) r.push("no purpose");
  return r;
}
const flagged = Object.fromEntries(
  flows.map(f => [f.id, riskReasons(f)]).filter(([, r]) => r.length)
);

Go:用一个带指针的结构体来表示“可能缺失”的保留期限。

type Flow struct {
    ID, Purpose                     string
    Personal, ThirdParty, Encrypted bool
    RetentionDays                   *int // nil means forever
}

回顾

  • 一条数据流是数据的一次移动;一组数据流就是一款产品的数据地图。
  • 把数据流写成字典,能让代码用同样的规则检查每一条。
  • 标记那些未加密、发往第三方、保留太久或没有用途的个人数据流。
  • 一个标记意味着“由人来决定”,而仅靠加密并不能让一条数据流变得安全。
轮到你了

初始代码里有 FLOWS,也就是练习应用 plantly.example 的数据地图。编写两个函数:

  1. risk_reasons(flow) 为一条数据流返回一个警告字符串的列表。如果 flow["personal"] 为假,就返回一个空列表。否则,按这个顺序加入:
    • 如果 flow["encrypted"] 为假,加入 "not encrypted";
    • 如果 flow["third_party"] 为真,加入 "third party";
    • 如果 retention_days 缺失、为 None 或者大于 365,加入 "kept too long";
    • 如果 purpose 缺失或者是一个空字符串,加入 "no purpose"。
  2. flag_risky(flows) 返回一个字典,把每条被标记的数据流的 "id" 映射到它的原因列表。没有任何原因的数据流不计入。
使用 flow.get(...),这样缺少某个键时就不会崩溃。最后,打印每个被标记的 id 及其原因,每行一个。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。