Programme Leçon 56 sur 156 · Mesurer la vie privée, honnêtement
Mesurer la vie privée, honnêtement

La défense

Pourquoi c'est important Les trois dernières leçons ont montré que les noms reviennent par les empreintes, les quasi-identifiants et les hashes. Voici les outils qui aident vraiment quand tu construis quelque chose qui stocke ou partage des données sur des gens. Chacun est simple, et chacun a un coût que tu dois connaître.

Quatre outils, une idée : partager moins de détails

Pense à une école qui publie des résultats d'examen. Lister la note de chaque élève, même sans les noms, permet aux camarades de deviner qui est qui. Dire « la moyenne de la classe était de 64, et 3 élèves ont eu les meilleures notes » dit aux parents ce dont ils ont besoin avec bien moins de risque. Chaque outil ici en est une version.

1. Le hachage à clé (un sel secret)

Sel : un texte en plus mélangé à l'entrée avant le hachage, pour que le même e-mail donne un hash différent. Quand le sel est un secret détenu par une seule organisation, on l'appelle souvent clé ou poivre (pepper).

HMAC : une façon standard de hacher avec une clé secrète. Python l'a intégrée : hmac.new(key, message, hashlib.sha256).hexdigest().

La table de correspondance de la leçon précédente ne marche que parce que n'importe qui peut calculer sha256(email). Avec une clé secrète, un tiers ne peut pas calculer les hashes des e-mails candidats, donc la table est inutile. Le coût : deux entreprises ne peuvent plus faire correspondre leurs clients sauf si elles partagent la clé, ce qui est souvent exactement le but. Et ça ne protège que contre l'extérieur : qui détient la clé peut encore forcer.

2. Généraliser, puis supprimer : atteindre k

Généralisation : remplacer des valeurs exactes par des valeurs plus grossières : le code postal 40113 devient 4011*, la date de naissance 1987-03-03 devient 1980s.

Des valeurs plus grossières font de plus grands groupes. Mais certains groupes restent minuscules (dans nos données, les personnes de genre X sont rares). Donc la deuxième étape est la suppression : laisser de côté les lignes dont le groupe est plus petit que k. Après les deux étapes, chaque combinaison restante est partagée par au moins k personnes. Choisir k (5 et 10 sont courants) est un jugement sur le risque.

Des limites honnêtes : si les k personnes d'un groupe ont toutes le même diagnostic, le groupe le révèle quand même. Et la suppression retire les personnes les plus rares, dont les données comptent peut-être le plus. Le k-anonymat réduit le risque ; il ne le supprime pas.

3. L'agrégation

Souvent, tu n'as pas du tout besoin de lignes. Publie des comptes : « 212 personnes asthmatiques ». Combine avec la suppression (« ne publie aucun compte inférieur à 10 ») et beaucoup d'attaques disparaissent, car il n'y a aucune ligne à joindre à une liste publique.

4. La confidentialité différentielle, en douceur

Les comptes peuvent encore fuiter. Si le compte d'hier était 212 et celui d'aujourd'hui 213, et que tu sais qu'une personne a rejoint, tu apprends son diagnostic. La confidentialité différentielle ajoute un peu de bruit aléatoire à chaque nombre publié, pour qu'aucune personne seule ne change le résultat d'une façon que quiconque puisse voir.

Confidentialité différentielle (differential privacy) : une promesse que les résultats publiés auraient presque la même allure, que les données d'une personne donnée soient incluses ou non. On y arrive en ajoutant un bruit aléatoire soigneusement dimensionné.

Epsilon : le réglage de confidentialité. Un epsilon plus petit veut dire plus de bruit et plus de confidentialité ; plus grand veut dire plus de précision et moins de confidentialité.

Le bruit classique est la distribution de Laplace avec une échelle de 1 / epsilon. Une astuce élégante la fabrique à partir de deux tirages aléatoires ordinaires : rng.expovariate(epsilon) - rng.expovariate(epsilon). Avec epsilon 1, le compte publié est décalé d'environ 1 en moyenne ; avec epsilon 0,25, d'environ 4. Les moyennes sur de grands groupes restent utiles, car le bruit est petit par rapport à elles et s'annule.

Les tests passent un objet random.Random avec graine sous le nom rng. N'utiliser que cet objet rend ton bruit reproductible, donc la notation est équitable. L'étape 7 va plus loin : les budgets de confidentialité, et ce qui se passe quand tu réponds à beaucoup de questions.

Une idée reçue

« Le bruit ruine les données. » Pour un tout petit groupe, oui, et c'est le but : c'est là que des individus pourraient être exposés. Pour les grands totaux qu'on utilise vraiment, quelques unités de bruit comptent à peine.

Essaie Une fois réussi, appelle noisy_count(212, epsilon, rng) dix fois chacun pour epsilon 2, 0.5 et 0.1. Note l'étendue des réponses. Quel epsilon accepterais-tu pour un rapport sur une ville de 2 000 habitants ?

Dans d'autres langages

JavaScript (Node) :

const { createHmac } = require("crypto");
const keyedHash = (email, key) =>
  createHmac("sha256", key).update(email.trim().toLowerCase()).digest("hex");

// Laplace noise from two exponential draws (use a seeded generator for tests)
const expo = (rate, rand) => -Math.log(1 - rand()) / rate;
const noisyCount = (n, eps, rand) => n + expo(eps, rand) - expo(eps, rand);

Go :

mac := hmac.New(sha256.New, []byte(key))
mac.Write([]byte(strings.ToLower(strings.TrimSpace(email))))
hash := hex.EncodeToString(mac.Sum(nil))

noisy := float64(count) + r.ExpFloat64()/eps - r.ExpFloat64()/eps

Récap

  • Une clé secrète (HMAC) empêche les tiers de forcer les e-mails hachés.
  • Généralise, puis supprime les petits groupes, pour atteindre le k-anonymat ; ça réduit le risque, pas à zéro.
  • Publie des comptes plutôt que des lignes, et cache les petits comptes.
  • La confidentialité différentielle ajoute un bruit d'échelle 1/epsilon : les tout petits groupes deviennent flous, les grandes moyennes restent utiles.
À ton tour

Écris keyed_hash(email, key) (le HMAC-SHA256 hexadécimal de l'e-mail normalisé, la clé en UTF-8), generalise(row) (un nouveau dict avec zip = les 4 premiers chiffres plus *, birth_decade comme "1980s", et gender et diagnosis inchangés), suppress_small(rows, columns, k) (garde, dans l'ordre, seulement les lignes dont le groupe de valeurs columns égales a au moins k lignes) et noisy_count(true_count, epsilon, rng) (ajoute un bruit de Laplace d'échelle 1/epsilon tiré uniquement de rng).

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.