Productbedreigingsmodellen
Waarom dit ertoe doet Wanneer je een app bouwt, zitten privacyproblemen verstopt in de pijlen: de momenten waarop data van de ene naar de andere plek beweegt. Het opschrijven van die bewegingen als data en het laten controleren door code vindt de risicovolle punten voordat je gebruikers dat doen. Het is de gewoonte die privacyengineers gebruiken bij echte producten.
Het pakket volgen
Denk aan elk stuk persoonlijke data als een pakket. Een threat model voor een product vraagt: waar gaat elk pakket heen, is het onderweg verzegeld, wie ontvangt het en hoe lang bewaren ze het? Een data flow is de reis van één pakket.
Eén flow in het praktijkproduct hieronder is gemarkeerd als niet persoonlijk: het crash rapport, "app version and crash stack". Dat houdt het lab simpel, maar zie het als een waarschuwing, niet als een regel: echte crash rapporten bevatten vaak persoonlijke gegevens (een bestandspad met een gebruikersnaam, de tekst in een formulier wanneer de app crashte, een e-mailadres in een logregel), dus in een echte review is een crash rapport persoonlijk totdat je het hebt gecontroleerd.
Data flow: één beweging van data van de ene naar de andere plek, bijvoorbeeld "de aanmeldmail gaat van de app naar onze server" of "paginabezoeken gaan van de app naar een analytics service".
Derde partij: elk bedrijf of elke dienst die niet jij of je gebruiker is. Een analytics provider, een advertentienetwerk, een e-mail verzenddienst.
Retention: hoe lang data wordt bewaard voordat het wordt verwijderd. "Voor altijd" is ook een retention period, en meestal de slechtste.
Flows als Python data
Elke flow past natuurlijk in een dictionary. Hier is een van een denkbeeldige plantverzorgingsapp, plantly.example:
flow = {
"id": "photo-upload",
"data": "plant photos with location",
"personal": True, # does it point to a person?
"to": "plantly.example",
"third_party": False, # is the receiver someone other than us?
"encrypted": True, # sent over HTTPS (or similar)?
"retention_days": 90, # None means kept forever
"purpose": "identify plant disease",
}
Een handig hulpmiddel: flow.get("retention_days") leest een key zoals flow["retention_days"] dat doet, maar geeft None terug in plaats van te crashen als de key ontbreekt. De tests gebruiken flows met ontbrekende keys, dus heb je het nodig.
Een lijst van deze dictionaries is de datakaart van een heel product. Zodra het data is, kun je elke flow controleren met dezelfde regels, elke keer dat er iets verandert.
Vier waarschuwingssignalen
Alleen persoonlijke flows doen er hier toe: een flow die niets over een persoon bevat kan niets over die persoon lekken. Voor een persoonlijke flow markeer je deze wanneer:
- niet versleuteld: iedereen op het netwerkpad kan het lezen;
- derde partij: het ontsnapt aan je controle, en je bent afhankelijk van de gewoonten van een ander bedrijf;
- te lang bewaard: retentie ontbreekt (voor altijd) of meer dan 365 dagen;
- geen doel: niemand heeft opgeschreven waarom het wordt verzameld. Als je niet kunt zeggen waarom, zou je het waarschijnlijk niet moeten verzamelen.
A gemarkeerde flow is niet automatisch fout. Het verzenden van e-mails via een e-mailservice is een flow van een derde partij die je prima kunt behouden. De markering betekent "een mens moet hiernaar kijken en beslissen", wat precies is waar een threat model voor dient.
A veelvoorkomende misvatting
"Als het versleuteld is, is het veilig." Versleuteling beschermt de reis. Het zegt niets over wie de data ontvangt of hoe lang ze het bewaren. Een flow kan versleuteld zijn en toch de meest risicovolle in je app zijn.
In andere talen
JavaScript: dezelfde regels over een array van objecten.
function riskReasons(f) {
if (!f.personal) return [];
const r = [];
if (!f.encrypted) r.push("not encrypted");
if (f.third_party) r.push("third party");
if (f.retention_days == null || f.retention_days > 365) r.push("kept too long");
if (!f.purpose) r.push("no purpose");
return r;
}
const flagged = Object.fromEntries(
flows.map(f => [f.id, riskReasons(f)]).filter(([, r]) => r.length)
);
Go: een struct met een pointer voor "misschien ontbrekende" retentie.
type Flow struct {
ID, Purpose string
Personal, ThirdParty, Encrypted bool
RetentionDays *int // nil means forever
}
Samenvatting
- A data flow is een beweging van data; een lijst van flows is de datakaart van een product.
- Het schrijven van flows als dictionaries laat code toe om elk item met dezelfde regels te controleren.
- Vlag persoonlijke stromen die niet versleuteld zijn, naar een derde partij gaan, te lang worden bewaard of geen doel hebben.
- A flag betekent "een mens beslist", en encryptie alleen maakt een flow niet veilig.
De startcode bevat FLOWS, de datamap van de oefenapp plantly.example. Schrijf twee functies:
risk_reasons(flow)geeft een lijst met waarschuwingen voor één flow terug. Alsflow["personal"]false is, geef dan een lege lijst terug. Anders voeg je, in deze volgorde, toe:"not encrypted"alsflow["encrypted"]false is;"third party"alsflow["third_party"]waar is;"kept too long"alsretention_daysontbreekt,None, of meer dan 365;"no purpose"alspurposeontbreekt of een lege string is.
flag_risky(flows)geeft een dictionary terug die de"id"van elke gemarkeerde flow koppelt aan de lijst met redenen. Flows zonder redenen worden weggelaten.
flow.get(...) zodat een ontbrekende key niet crasht. Print tenslotte elke gemarkeerde id en de redenen, één per regel.
Een probleem ontdekt in deze les? Meld het · Vraag naar deze les
Deze oefening opent binnenkort
Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.
Deze browser blokkeert cookies voor learn.floati.life, dus lessen die je hier hebt afgerond kunnen niet in de juiste volgorde worden geopend. Sta cookies toe voor deze site en laad de pagina opnieuw.