製品の脅威モデル
なぜ大切か アプリを作るとき、プライバシーの問題は矢印の中に隠れています。データがある場所から別の場所へ動く瞬間です。その動きをデータとして書き出し、コードに確かめさせれば、ユーザーより先に危ないものが見つかります。これはプライバシーのエンジニアが実際の製品で使う習慣です。
小包を追う
個人のデータひとつひとつを小包だと考えてください。製品の脅威モデルは問います:それぞれの小包はどこへ行き、途中で封がされていて、誰が受け取り、どれだけ長く持っているか? データフロー は、ひとつの小包の旅です。
下の練習用の製品には、個人のものではないと印の付いたフローがひとつあります。クラッシュの報告、「アプリのバージョンとクラッシュのスタック」です。これでラボは単純になりますが、規則ではなく警告として扱ってください。実際のクラッシュの報告には、しばしば個人のデータが入っています(ユーザー名の入ったファイルのパス、アプリが落ちたときのフォームの文字、ログの行のメールアドレス)。なので実際の見直しでは、確かめるまでクラッシュの報告は個人のものです。
データフロー:データのある場所から別の場所へのひとつの動きです。例えば「登録のメールがアプリからサーバーへ行く」や「ページの閲覧がアプリから分析サービスへ行く」。
サードパーティ:あなたでもユーザーでもない会社やサービスです。分析の提供者、広告ネットワーク、メール送信のサービス。
保持期間:データが消されるまでどれだけ長く持たれるかです。「永久」も保持期間のひとつで、ふつう最悪のものです。
Python のデータとしてのフロー
ひとつのフローは辞書に自然に収まります。これは作りものの植物の世話のアプリ plantly.example のものです:
flow = {
"id": "photo-upload",
"data": "plant photos with location",
"personal": True, # does it point to a person?
"to": "plantly.example",
"third_party": False, # is the receiver someone other than us?
"encrypted": True, # sent over HTTPS (or similar)?
"retention_days": 90, # None means kept forever
"purpose": "identify plant disease",
}
便利な道具がひとつあります:flow.get("retention_days") は flow["retention_days"] と同じようにキーを読みますが、キーがないときに落ちる代わりに None を返します。テストはキーの欠けたフローを使うので、これが必要になります。
こうした辞書のリストが、製品全体のデータの地図です。データになれば、何かが変わるたびに、すべてのフローを同じ規則で確かめられます。
4 つの警告のしるし
ここで大事なのは個人のフローだけです。人について何も運ばないフローは、人について何も漏らせません。個人のフローでは、次のときに印を付けます:
- 暗号化されていない:ネットワークの経路にいる誰でも読めます。
- サードパーティ:あなたの管理を離れ、ほかの会社の習慣に頼ることになります。
- 長く持ちすぎ:保持期間がない(永久)か、365 日より長い。
- 目的なし:なぜ集めるのか誰も書いていない。なぜか言えないなら、たぶん集めるべきではありません。
印が付いたフローが自動的に間違いなのではありません。メールのサービスを通してメールを送るのは、十分残しうるサードパーティのフローです。印は「人が見て判断しなければならない」という意味で、それこそが脅威モデルの役目です。
よくある誤解
「暗号化されていれば安全だ」。暗号化は道中を守ります。誰がデータを受け取り、どれだけ長く持つかについては何も言いません。フローは暗号化されていても、アプリで最も危ないものでありえます。
ほかの言語では
JavaScript:オブジェクトの配列に同じ規則。
function riskReasons(f) {
if (!f.personal) return [];
const r = [];
if (!f.encrypted) r.push("not encrypted");
if (f.third_party) r.push("third party");
if (f.retention_days == null || f.retention_days > 365) r.push("kept too long");
if (!f.purpose) r.push("no purpose");
return r;
}
const flagged = Object.fromEntries(
flows.map(f => [f.id, riskReasons(f)]).filter(([, r]) => r.length)
);
Go:「欠けているかもしれない」保持期間にポインタを使う構造体。
type Flow struct {
ID, Purpose string
Personal, ThirdParty, Encrypted bool
RetentionDays *int // nil means forever
}
まとめ
- データフローはデータのひとつの動きで、フローのリストは製品のデータの地図です。
- フローを辞書として書くと、コードがどれも同じ規則で確かめられます。
- 暗号化されていない、サードパーティへ行く、長く持ちすぎる、目的がない、という個人のフローに印を付けます。
- 印は「人が判断する」という意味で、暗号化だけでフローが安全になるわけではありません。
最初のコードには、練習用のアプリ plantly.example のデータの地図である FLOWS があります。2 つの関数を書いてください:
risk_reasons(flow)は、ひとつのフローについての警告の文字列のリストを返します。flow["personal"]が false なら空のリストを返します。そうでなければ、この順番で 加えます:flow["encrypted"]が false なら"not encrypted"。flow["third_party"]が true なら"third party"。retention_daysがない、None、または 365 より大きいなら"kept too long"。purposeがないか空の文字列なら"no purpose"。
flag_risky(flows)は、印が付いた各フローの"id"を理由のリストに対応させる辞書を返します。理由のないフローは入れません。
flow.get(...) を使ってください。最後に、印が付いた各 id とその理由を 1 行にひとつずつ表示します。
この演習はまもなく開きます
その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。
このブラウザは learn.floati.life の Cookie をブロックしているため、ここで修了したレッスンを順番どおりに開けません。このサイトの Cookie を許可して再読み込みしてください。