Программа курса Урок 94 из 156 · Моделирование угроз
Моделирование угроз

Модели угроз для продуктов

Почему это важно Когда вы создаёте приложение, проблемы с приватностью прячутся в стрелках: в моментах, когда данные перемещаются из одного места в другое. Если записать эти перемещения как данные и дать коду их проверить, рискованные найдутся раньше, чем их найдут ваши пользователи. Этой привычкой инженеры по приватности пользуются в настоящих продуктах.

Следим за посылкой

Представьте каждый кусок персональных данных как посылку. Модель угроз для продукта спрашивает: куда идёт каждая посылка, запечатана ли она в пути, кто её получает и сколько её хранит? Поток данных - это путь одной посылки.

Один поток в учебном продукте ниже помечен как не персональный: отчёт о сбое, "версия приложения и стек сбоя". Это упрощает лабораторию, но воспринимайте это как предупреждение, а не как правило: настоящие отчёты о сбоях часто несут персональные данные (путь к файлу с именем пользователя, текст в форме в момент сбоя, адрес почты в строке лога), поэтому при настоящей проверке отчёт о сбое считается персональным, пока вы его не проверили.

Поток данных: одно перемещение данных из одного места в другое, например "почта при регистрации идёт из приложения на наш сервер" или "просмотры страниц идут из приложения в сервис аналитики".

Третья сторона: любая компания или сервис, которые не являются ни вами, ни вашим пользователем. Поставщик аналитики, рекламная сеть, сервис рассылки писем.

Срок хранения: как долго данные хранятся, прежде чем их удалят. "Навсегда" - тоже срок хранения, и обычно худший.

Потоки как данные Python

Каждый поток естественно помещается в словарь. Вот один из вымышленного приложения для ухода за растениями, plantly.example:

flow = {
    "id": "photo-upload",
    "data": "plant photos with location",
    "personal": True,          # does it point to a person?
    "to": "plantly.example",
    "third_party": False,      # is the receiver someone other than us?
    "encrypted": True,         # sent over HTTPS (or similar)?
    "retention_days": 90,      # None means kept forever
    "purpose": "identify plant disease",
}

Удобный инструмент: flow.get("retention_days") читает ключ так же, как flow["retention_days"], но возвращает None, а не падает, когда ключа нет. В тестах есть потоки без некоторых ключей, так что он вам понадобится.

Список таких словарей - это карта данных всего продукта. Когда это данные, каждый поток можно проверять одними и теми же правилами при каждом изменении.

Четыре тревожных признака

Здесь важны только персональные потоки: поток, который ничего не несёт о человеке, не может ничего о нём выдать. Помечайте персональный поток, когда он:

  1. not encrypted (не зашифрован): любой на сетевом пути может его прочитать;
  2. third party (третья сторона): он уходит из-под вашего контроля, и вы зависите от привычек другой компании;
  3. хранится слишком долго (хранится слишком долго): срок хранения не указан (навсегда) или больше 365 дней;
  4. no purpose (нет цели): никто не записал, зачем это собирается. Если вы не можете сказать зачем, вероятно, собирать не стоит.

Помеченный поток не обязательно неправилен. Отправка писем через почтовый сервис - поток к третьей стороне, который вы вполне можете оставить. Пометка значит "человек должен посмотреть и решить", а это ровно то, для чего нужна модель угроз.

Распространённое заблуждение

"Если зашифровано, значит, безопасно." Шифрование защищает путь. Оно ничего не говорит о том, кто получает данные и как долго их хранит. Поток может быть зашифрован и всё равно оставаться самым рискованным в вашем приложении.

На других языках

JavaScript: те же правила для массива объектов.

function riskReasons(f) {
  if (!f.personal) return [];
  const r = [];
  if (!f.encrypted) r.push("not encrypted");
  if (f.third_party) r.push("third party");
  if (f.retention_days == null || f.retention_days > 365) r.push("kept too long");
  if (!f.purpose) r.push("no purpose");
  return r;
}
const flagged = Object.fromEntries(
  flows.map(f => [f.id, riskReasons(f)]).filter(([, r]) => r.length)
);

Go: структура с указателем для срока хранения, который "может отсутствовать".

type Flow struct {
    ID, Purpose                     string
    Personal, ThirdParty, Encrypted bool
    RetentionDays                   *int // nil means forever
}

Итоги

  • Поток данных - одно перемещение данных; список потоков - карта данных продукта.
  • Запись потоков в виде словарей позволяет коду проверять каждый одними и теми же правилами.
  • Помечайте персональные потоки, которые не зашифрованы, уходят к третьей стороне, хранятся слишком долго или не имеют цели.
  • Пометка значит "решает человек", и одно шифрование не делает поток безопасным.
Твоя очередь

В стартовом коде есть FLOWS, карта данных учебного приложения plantly.example. Напишите две функции:

  1. risk_reasons(flow) возвращает список строк-предупреждений для одного потока. Если flow["personal"] ложно, верните пустой список. Иначе добавьте, в таком порядке:
    • "not encrypted", если flow["encrypted"] ложно;
    • "third party", если flow["third_party"] истинно;
    • "kept too long", если retention_days отсутствует, равно None или больше 365;
    • "no purpose", если purpose отсутствует или пустая строка.
  2. flag_risky(flows) возвращает словарь, сопоставляющий "id" каждого помеченного потока со списком его причин. Потоки без причин не включаются.
Используйте flow.get(...), чтобы отсутствующий ключ не приводил к падению. В конце выведите каждый помеченный id и его причины, по одному на строку.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Это упражнение откроется скоро

Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.