シラバス レッスン 156 中 94 · 脅威モデリング
脅威モデリング

製品の脅威モデル

なぜ大切か アプリを作るとき、プライバシーの問題は矢印の中に隠れています。データがある場所から別の場所へ動く瞬間です。その動きをデータとして書き出し、コードに確かめさせれば、ユーザーより先に危ないものが見つかります。これはプライバシーのエンジニアが実際の製品で使う習慣です。

小包を追う

個人のデータひとつひとつを小包だと考えてください。製品の脅威モデルは問います:それぞれの小包はどこへ行き、途中で封がされていて、誰が受け取り、どれだけ長く持っているか? データフロー は、ひとつの小包の旅です。

下の練習用の製品には、個人のものではないと印の付いたフローがひとつあります。クラッシュの報告、「アプリのバージョンとクラッシュのスタック」です。これでラボは単純になりますが、規則ではなく警告として扱ってください。実際のクラッシュの報告には、しばしば個人のデータが入っています(ユーザー名の入ったファイルのパス、アプリが落ちたときのフォームの文字、ログの行のメールアドレス)。なので実際の見直しでは、確かめるまでクラッシュの報告は個人のものです。

データフロー:データのある場所から別の場所へのひとつの動きです。例えば「登録のメールがアプリからサーバーへ行く」や「ページの閲覧がアプリから分析サービスへ行く」。

サードパーティ:あなたでもユーザーでもない会社やサービスです。分析の提供者、広告ネットワーク、メール送信のサービス。

保持期間:データが消されるまでどれだけ長く持たれるかです。「永久」も保持期間のひとつで、ふつう最悪のものです。

Python のデータとしてのフロー

ひとつのフローは辞書に自然に収まります。これは作りものの植物の世話のアプリ plantly.example のものです:

flow = {
    "id": "photo-upload",
    "data": "plant photos with location",
    "personal": True,          # does it point to a person?
    "to": "plantly.example",
    "third_party": False,      # is the receiver someone other than us?
    "encrypted": True,         # sent over HTTPS (or similar)?
    "retention_days": 90,      # None means kept forever
    "purpose": "identify plant disease",
}

便利な道具がひとつあります:flow.get("retention_days") は flow["retention_days"] と同じようにキーを読みますが、キーがないときに落ちる代わりに None を返します。テストはキーの欠けたフローを使うので、これが必要になります。

こうした辞書のリストが、製品全体のデータの地図です。データになれば、何かが変わるたびに、すべてのフローを同じ規則で確かめられます。

4 つの警告のしるし

ここで大事なのは個人のフローだけです。人について何も運ばないフローは、人について何も漏らせません。個人のフローでは、次のときに印を付けます:

  1. 暗号化されていない:ネットワークの経路にいる誰でも読めます。
  2. サードパーティ:あなたの管理を離れ、ほかの会社の習慣に頼ることになります。
  3. 長く持ちすぎ:保持期間がない(永久)か、365 日より長い。
  4. 目的なし:なぜ集めるのか誰も書いていない。なぜか言えないなら、たぶん集めるべきではありません。

印が付いたフローが自動的に間違いなのではありません。メールのサービスを通してメールを送るのは、十分残しうるサードパーティのフローです。印は「人が見て判断しなければならない」という意味で、それこそが脅威モデルの役目です。

よくある誤解

「暗号化されていれば安全だ」。暗号化は道中を守ります。誰がデータを受け取り、どれだけ長く持つかについては何も言いません。フローは暗号化されていても、アプリで最も危ないものでありえます。

ほかの言語では

JavaScript:オブジェクトの配列に同じ規則。

function riskReasons(f) {
  if (!f.personal) return [];
  const r = [];
  if (!f.encrypted) r.push("not encrypted");
  if (f.third_party) r.push("third party");
  if (f.retention_days == null || f.retention_days > 365) r.push("kept too long");
  if (!f.purpose) r.push("no purpose");
  return r;
}
const flagged = Object.fromEntries(
  flows.map(f => [f.id, riskReasons(f)]).filter(([, r]) => r.length)
);

Go:「欠けているかもしれない」保持期間にポインタを使う構造体。

type Flow struct {
    ID, Purpose                     string
    Personal, ThirdParty, Encrypted bool
    RetentionDays                   *int // nil means forever
}

まとめ

  • データフローはデータのひとつの動きで、フローのリストは製品のデータの地図です。
  • フローを辞書として書くと、コードがどれも同じ規則で確かめられます。
  • 暗号化されていない、サードパーティへ行く、長く持ちすぎる、目的がない、という個人のフローに印を付けます。
  • 印は「人が判断する」という意味で、暗号化だけでフローが安全になるわけではありません。
あなたの番

最初のコードには、練習用のアプリ plantly.example のデータの地図である FLOWS があります。2 つの関数を書いてください:

  1. risk_reasons(flow) は、ひとつのフローについての警告の文字列のリストを返します。flow["personal"] が false なら空のリストを返します。そうでなければ、この順番で 加えます:
    • flow["encrypted"] が false なら "not encrypted"。
    • flow["third_party"] が true なら "third party"。
    • retention_days がない、None、または 365 より大きいなら "kept too long"。
    • purpose がないか空の文字列なら "no purpose"。
  2. flag_risky(flows) は、印が付いた各フローの "id" を理由のリストに対応させる辞書を返します。理由のないフローは入れません。
キーがなくても落ちないように flow.get(...) を使ってください。最後に、印が付いた各 id とその理由を 1 行にひとつずつ表示します。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。