防御
なぜ大切か 前の 3 つのレッスンでは、指紋、準識別子、ハッシュを通して名前が戻ってくることを示しました。ここでは、人についてのデータを保存したり共有したりするものを作るときに、実際に役立つ道具を紹介します。どれも単純で、どれにも知っておくべき費用があります。
4 つの道具、ひとつの考え方:細部の共有を減らす
学校が試験の結果を公表することを考えてください。名前がなくても全生徒の点数を並べると、同級生は誰が誰かを突き止められます。「クラスの平均は 64 点で、満点は 3 人でした」と言えば、はるかに小さな危険で、保護者が必要なことを伝えられます。ここでの道具は、どれもその変形です。
1. 鍵付きのハッシュ(秘密のソルト)
ソルト:ハッシュの前に入力に混ぜる追加のテキストで、同じメールアドレスから違うハッシュが出るようにします。ソルトがひとつの組織の持つ秘密なら、鍵やペッパーと呼ばれることがよくあります。
HMAC:秘密の鍵を使ってハッシュする標準的な方法です。Python には組み込みであります:hmac.new(key, message, hashlib.sha256).hexdigest()。
前のレッスンの対応表が働くのは、誰でも sha256(email) を計算できるからにすぎません。秘密の鍵があれば、外部の人は候補のメールアドレスのハッシュを計算できないので、表は役に立ちません。費用:2 つの会社は、鍵を共有しない限り顧客を照合できなくなります。それこそがまさに目的であることもよくあります。そしてこれが守るのは外部の人からだけです。鍵を持つ人は、やはり総当たりできます。
2. 一般化してから抑制する:k に到達する
一般化:正確な値を粗い値に置き換えることです。郵便番号 40113 は 4011* に、生年月日 1987-03-03 は 1980s になります。
値を粗くするとまとまりが大きくなります。でも、ごく小さいままのまとまりもあります(このデータでは、性別が X の人はまれです)。そこで 2 つ目の手順が 抑制 です。まとまりが k より小さい行を除きます。両方の手順の後では、残ったどの組み合わせも少なくとも k 人に共有されています。k を選ぶこと(5 と 10 がよく使われます)は、危険についての判断です。
正直な限界:まとまりの k 人全員が同じ診断なら、まとまりはやはりそれを明かします。そして抑制は最もまれな人々を取り除きますが、その人たちのデータが最も重要かもしれません。k-匿名性は危険を下げますが、なくしはしません。
3. 集計
行がまったく必要ないことはよくあります。数を公表します。「ぜんそくの人が 212 人」。抑制(「10 未満の数は公表しない」)と組み合わせると、多くの攻撃が消えます。公開リストと結合できる行がないからです。
4. やさしくした差分プライバシー
数でもまだ漏れることがあります。昨日の数が 212 で今日が 213、そして 1 人が加わったと知っていれば、その人の診断がわかります。差分プライバシーは、公表するすべての数に少しのランダムな雑音を加え、どの 1 人も、誰にでも見える形で結果を変えないようにします。
差分プライバシー:誰か 1 人のデータが含まれていてもいなくても、公表される結果がほとんど同じに見えるという約束です。慎重に大きさを決めたランダムな雑音を加えることで実現します。
イプシロン:プライバシーの設定です。イプシロンが小さいほど雑音が多く、プライバシーが高くなり、大きいほど正確さが増して、プライバシーは下がります。
古典的な雑音は、尺度 1 / epsilon の ラプラス 分布です。2 回のふつうのランダムな抽出からそれを作るうまい技があります:rng.expovariate(epsilon) - rng.expovariate(epsilon)。イプシロン 1 なら、公表される数は平均しておよそ 1 ずれ、イプシロン 0.25 ならおよそ 4 ずれます。大きなまとまりの平均は役に立つままです。雑音がそれに比べて小さく、打ち消し合うからです。
テストは、シードを設定した random.Random オブジェクトを rng として渡します。そのオブジェクトだけを使えば雑音が再現できるので、採点が公平になります。第 7 部ではさらに深く、プライバシーの予算や、多くの問いに答えると何が起こるかを扱います。
よくある誤解
「雑音はデータを台無しにする」。ひとつのごく小さなまとまりにとってはそうで、それが目的です。そこは個人がさらされうる場所だからです。人が実際に使う大きな合計にとって、数単位の雑音はほとんど問題になりません。
試してみよう 合格したら、イプシロン 2、0.5、0.1 のそれぞれについて noisy_count(212, epsilon, rng) を 10 回ずつ呼んでください。答えのばらつきを書き留めます。人口 2,000 人の町についての報告なら、どのイプシロンを受け入れますか?
ほかの言語では
JavaScript(Node):
const { createHmac } = require("crypto");
const keyedHash = (email, key) =>
createHmac("sha256", key).update(email.trim().toLowerCase()).digest("hex");
// Laplace noise from two exponential draws (use a seeded generator for tests)
const expo = (rate, rand) => -Math.log(1 - rand()) / rate;
const noisyCount = (n, eps, rand) => n + expo(eps, rand) - expo(eps, rand);Go:
mac := hmac.New(sha256.New, []byte(key))
mac.Write([]byte(strings.ToLower(strings.TrimSpace(email))))
hash := hex.EncodeToString(mac.Sum(nil))
noisy := float64(count) + r.ExpFloat64()/eps - r.ExpFloat64()/epsまとめ
- 秘密の鍵(HMAC)は、外部の人がハッシュ化したメールアドレスを総当たりするのを防ぎます。
- 一般化してから小さなまとまりを抑制すると、k-匿名性に到達します。危険は下がりますが、ゼロにはなりません。
- 行の代わりに数を公表し、小さな数は隠します。
- 差分プライバシーは尺度 1/epsilon の雑音を加えます。ごく小さなまとまりはぼやけ、大きな平均は役に立つままです。
keyed_hash(email, key)(正規化したメールアドレスの HMAC-SHA256 の 16 進数。key は UTF-8)、generalise(row)(zip を最初の 4 桁に * を付けたものにし、"1980s" のような birth_decade を持ち、gender と diagnosis は変えない新しい辞書)、suppress_small(rows, columns, k)(columns の値が等しいまとまりが少なくとも k 行ある行だけを、順に残す)、noisy_count(true_count, epsilon, rng)(rng だけから引いた尺度 1/epsilon のラプラス雑音を加える)を書いてください。
この演習はまもなく開きます
その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。
このブラウザは learn.floati.life の Cookie をブロックしているため、ここで修了したレッスンを順番どおりに開けません。このサイトの Cookie を許可して再読み込みしてください。