Programma Les 94 van 156 · Bedreigingsmodellering
Bedreigingsmodellering

Productbedreigingsmodellen

Waarom dit ertoe doet Wanneer je een app bouwt, zitten privacyproblemen verstopt in de pijlen: de momenten waarop data van de ene naar de andere plek beweegt. Het opschrijven van die bewegingen als data en het laten controleren door code vindt de risicovolle punten voordat je gebruikers dat doen. Het is de gewoonte die privacyengineers gebruiken bij echte producten.

Het pakket volgen

Denk aan elk stuk persoonlijke data als een pakket. Een threat model voor een product vraagt: waar gaat elk pakket heen, is het onderweg verzegeld, wie ontvangt het en hoe lang bewaren ze het? Een data flow is de reis van één pakket.

Eén flow in het praktijkproduct hieronder is gemarkeerd als niet persoonlijk: het crash rapport, "app version and crash stack". Dat houdt het lab simpel, maar zie het als een waarschuwing, niet als een regel: echte crash rapporten bevatten vaak persoonlijke gegevens (een bestandspad met een gebruikersnaam, de tekst in een formulier wanneer de app crashte, een e-mailadres in een logregel), dus in een echte review is een crash rapport persoonlijk totdat je het hebt gecontroleerd.

Data flow: één beweging van data van de ene naar de andere plek, bijvoorbeeld "de aanmeldmail gaat van de app naar onze server" of "paginabezoeken gaan van de app naar een analytics service".

Derde partij: elk bedrijf of elke dienst die niet jij of je gebruiker is. Een analytics provider, een advertentienetwerk, een e-mail verzenddienst.

Retention: hoe lang data wordt bewaard voordat het wordt verwijderd. "Voor altijd" is ook een retention period, en meestal de slechtste.

Flows als Python data

Elke flow past natuurlijk in een dictionary. Hier is een van een denkbeeldige plantverzorgingsapp, plantly.example:

flow = {
    "id": "photo-upload",
    "data": "plant photos with location",
    "personal": True,          # does it point to a person?
    "to": "plantly.example",
    "third_party": False,      # is the receiver someone other than us?
    "encrypted": True,         # sent over HTTPS (or similar)?
    "retention_days": 90,      # None means kept forever
    "purpose": "identify plant disease",
}

Een handig hulpmiddel: flow.get("retention_days") leest een key zoals flow["retention_days"] dat doet, maar geeft None terug in plaats van te crashen als de key ontbreekt. De tests gebruiken flows met ontbrekende keys, dus heb je het nodig.

Een lijst van deze dictionaries is de datakaart van een heel product. Zodra het data is, kun je elke flow controleren met dezelfde regels, elke keer dat er iets verandert.

Vier waarschuwingssignalen

Alleen persoonlijke flows doen er hier toe: een flow die niets over een persoon bevat kan niets over die persoon lekken. Voor een persoonlijke flow markeer je deze wanneer:

  1. niet versleuteld: iedereen op het netwerkpad kan het lezen;
  2. derde partij: het ontsnapt aan je controle, en je bent afhankelijk van de gewoonten van een ander bedrijf;
  3. te lang bewaard: retentie ontbreekt (voor altijd) of meer dan 365 dagen;
  4. geen doel: niemand heeft opgeschreven waarom het wordt verzameld. Als je niet kunt zeggen waarom, zou je het waarschijnlijk niet moeten verzamelen.
De door

A gemarkeerde flow is niet automatisch fout. Het verzenden van e-mails via een e-mailservice is een flow van een derde partij die je prima kunt behouden. De markering betekent "een mens moet hiernaar kijken en beslissen", wat precies is waar een threat model voor dient.

A veelvoorkomende misvatting

"Als het versleuteld is, is het veilig." Versleuteling beschermt de reis. Het zegt niets over wie de data ontvangt of hoe lang ze het bewaren. Een flow kan versleuteld zijn en toch de meest risicovolle in je app zijn.

In andere talen

JavaScript: dezelfde regels over een array van objecten.

function riskReasons(f) {
  if (!f.personal) return [];
  const r = [];
  if (!f.encrypted) r.push("not encrypted");
  if (f.third_party) r.push("third party");
  if (f.retention_days == null || f.retention_days > 365) r.push("kept too long");
  if (!f.purpose) r.push("no purpose");
  return r;
}
const flagged = Object.fromEntries(
  flows.map(f => [f.id, riskReasons(f)]).filter(([, r]) => r.length)
);

Go: een struct met een pointer voor "misschien ontbrekende" retentie.

type Flow struct {
    ID, Purpose                     string
    Personal, ThirdParty, Encrypted bool
    RetentionDays                   *int // nil means forever
}

Samenvatting

  • A data flow is een beweging van data; een lijst van flows is de datakaart van een product.
  • Het schrijven van flows als dictionaries laat code toe om elk item met dezelfde regels te controleren.
  • Vlag persoonlijke stromen die niet versleuteld zijn, naar een derde partij gaan, te lang worden bewaard of geen doel hebben.
  • A flag betekent "een mens beslist", en encryptie alleen maakt een flow niet veilig.
Jij bent aan de beurt

De startcode bevat FLOWS, de datamap van de oefenapp plantly.example. Schrijf twee functies:

  1. risk_reasons(flow) geeft een lijst met waarschuwingen voor één flow terug. Als flow["personal"] false is, geef dan een lege lijst terug. Anders voeg je, in deze volgorde, toe:
    • "not encrypted" als flow["encrypted"] false is;
    • "third party" als flow["third_party"] waar is;
    • "kept too long" als retention_days ontbreekt, None, of meer dan 365;
    • "no purpose" als purpose ontbreekt of een lege string is.
  2. flag_risky(flows) geeft een dictionary terug die de "id" van elke gemarkeerde flow koppelt aan de lijst met redenen. Flows zonder redenen worden weggelaten.
Gebruik flow.get(...) zodat een ontbrekende key niet crasht. Print tenslotte elke gemarkeerde id en de redenen, één per regel.

Een probleem ontdekt in deze les? Meld het · Vraag naar deze les

Deze oefening opent binnenkort

Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.