シラバス レッスン 156 中 56 · プライバシーを正直に測る
プライバシーを正直に測る

防御

なぜ大切か 前の 3 つのレッスンでは、指紋、準識別子、ハッシュを通して名前が戻ってくることを示しました。ここでは、人についてのデータを保存したり共有したりするものを作るときに、実際に役立つ道具を紹介します。どれも単純で、どれにも知っておくべき費用があります。

4 つの道具、ひとつの考え方:細部の共有を減らす

学校が試験の結果を公表することを考えてください。名前がなくても全生徒の点数を並べると、同級生は誰が誰かを突き止められます。「クラスの平均は 64 点で、満点は 3 人でした」と言えば、はるかに小さな危険で、保護者が必要なことを伝えられます。ここでの道具は、どれもその変形です。

1. 鍵付きのハッシュ(秘密のソルト)

ソルト:ハッシュの前に入力に混ぜる追加のテキストで、同じメールアドレスから違うハッシュが出るようにします。ソルトがひとつの組織の持つ秘密なら、鍵やペッパーと呼ばれることがよくあります。

HMAC:秘密の鍵を使ってハッシュする標準的な方法です。Python には組み込みであります:hmac.new(key, message, hashlib.sha256).hexdigest()。

前のレッスンの対応表が働くのは、誰でも sha256(email) を計算できるからにすぎません。秘密の鍵があれば、外部の人は候補のメールアドレスのハッシュを計算できないので、表は役に立ちません。費用:2 つの会社は、鍵を共有しない限り顧客を照合できなくなります。それこそがまさに目的であることもよくあります。そしてこれが守るのは外部の人からだけです。鍵を持つ人は、やはり総当たりできます。

2. 一般化してから抑制する:k に到達する

一般化:正確な値を粗い値に置き換えることです。郵便番号 40113 は 4011* に、生年月日 1987-03-03 は 1980s になります。

値を粗くするとまとまりが大きくなります。でも、ごく小さいままのまとまりもあります(このデータでは、性別が X の人はまれです)。そこで 2 つ目の手順が 抑制 です。まとまりが k より小さい行を除きます。両方の手順の後では、残ったどの組み合わせも少なくとも k 人に共有されています。k を選ぶこと(5 と 10 がよく使われます)は、危険についての判断です。

正直な限界:まとまりの k 人全員が同じ診断なら、まとまりはやはりそれを明かします。そして抑制は最もまれな人々を取り除きますが、その人たちのデータが最も重要かもしれません。k-匿名性は危険を下げますが、なくしはしません。

3. 集計

行がまったく必要ないことはよくあります。数を公表します。「ぜんそくの人が 212 人」。抑制(「10 未満の数は公表しない」)と組み合わせると、多くの攻撃が消えます。公開リストと結合できる行がないからです。

4. やさしくした差分プライバシー

数でもまだ漏れることがあります。昨日の数が 212 で今日が 213、そして 1 人が加わったと知っていれば、その人の診断がわかります。差分プライバシーは、公表するすべての数に少しのランダムな雑音を加え、どの 1 人も、誰にでも見える形で結果を変えないようにします。

差分プライバシー:誰か 1 人のデータが含まれていてもいなくても、公表される結果がほとんど同じに見えるという約束です。慎重に大きさを決めたランダムな雑音を加えることで実現します。

イプシロン:プライバシーの設定です。イプシロンが小さいほど雑音が多く、プライバシーが高くなり、大きいほど正確さが増して、プライバシーは下がります。

古典的な雑音は、尺度 1 / epsilon の ラプラス 分布です。2 回のふつうのランダムな抽出からそれを作るうまい技があります:rng.expovariate(epsilon) - rng.expovariate(epsilon)。イプシロン 1 なら、公表される数は平均しておよそ 1 ずれ、イプシロン 0.25 ならおよそ 4 ずれます。大きなまとまりの平均は役に立つままです。雑音がそれに比べて小さく、打ち消し合うからです。

テストは、シードを設定した random.Random オブジェクトを rng として渡します。そのオブジェクトだけを使えば雑音が再現できるので、採点が公平になります。第 7 部ではさらに深く、プライバシーの予算や、多くの問いに答えると何が起こるかを扱います。

よくある誤解

「雑音はデータを台無しにする」。ひとつのごく小さなまとまりにとってはそうで、それが目的です。そこは個人がさらされうる場所だからです。人が実際に使う大きな合計にとって、数単位の雑音はほとんど問題になりません。

試してみよう 合格したら、イプシロン 2、0.5、0.1 のそれぞれについて noisy_count(212, epsilon, rng) を 10 回ずつ呼んでください。答えのばらつきを書き留めます。人口 2,000 人の町についての報告なら、どのイプシロンを受け入れますか?

ほかの言語では

JavaScript(Node):

const { createHmac } = require("crypto");
const keyedHash = (email, key) =>
  createHmac("sha256", key).update(email.trim().toLowerCase()).digest("hex");

// Laplace noise from two exponential draws (use a seeded generator for tests)
const expo = (rate, rand) => -Math.log(1 - rand()) / rate;
const noisyCount = (n, eps, rand) => n + expo(eps, rand) - expo(eps, rand);

Go:

mac := hmac.New(sha256.New, []byte(key))
mac.Write([]byte(strings.ToLower(strings.TrimSpace(email))))
hash := hex.EncodeToString(mac.Sum(nil))

noisy := float64(count) + r.ExpFloat64()/eps - r.ExpFloat64()/eps

まとめ

  • 秘密の鍵(HMAC)は、外部の人がハッシュ化したメールアドレスを総当たりするのを防ぎます。
  • 一般化してから小さなまとまりを抑制すると、k-匿名性に到達します。危険は下がりますが、ゼロにはなりません。
  • 行の代わりに数を公表し、小さな数は隠します。
  • 差分プライバシーは尺度 1/epsilon の雑音を加えます。ごく小さなまとまりはぼやけ、大きな平均は役に立つままです。
あなたの番

keyed_hash(email, key)(正規化したメールアドレスの HMAC-SHA256 の 16 進数。key は UTF-8)、generalise(row)(zip を最初の 4 桁に * を付けたものにし、"1980s" のような birth_decade を持ち、gender と diagnosis は変えない新しい辞書)、suppress_small(rows, columns, k)(columns の値が等しいまとまりが少なくとも k 行ある行だけを、順に残す)、noisy_count(true_count, epsilon, rng)(rng だけから引いた尺度 1/epsilon のラプラス雑音を加える)を書いてください。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。