シラバス レッスン 156 中 139 · ブロックを超えるプライバシーの技術
ブロックを超えるプライバシーの技術

正しい道具を選ぶ

なぜ大切か プライバシーの道具は取り替えがききません。差分プライバシーが必要なところで安全な集計を使ったり、件数で足りるところで PSI を使ったりすると、守るつもりだったものがまさに漏れることがあります。製品のチームは毎日この選択をします。この練習は、それを決めるひとつの問いを鍛えます:誰が何を知るべきか?

「誰が何を知るか」を問う

このモジュールのどの技術も、知識についての約束です。選ぶ前に、すべての当事者(ユーザー、会社、提携先、一般の人)と、それぞれが知ってよいことを書き出してください。正しい道具は、その約束がその一覧に合うものです。

技術その約束
差分プライバシー誰かひとりがいてもいなくても、結果はほとんど変わらない
Private Set Intersection2 者は共有している項目を知り、ほかには何も知らない
PSI の件数版2 者は共有している項目の数だけを知る
安全な集計サーバーは合計を知るが、ひとつの寄与も知らない
Privacy Passサイトは、信頼された発行者があなたを保証したことを、結びつけられない形で知る
Oblivious HTTPひとつの当事者は誰が尋ねるかを、別の当事者は何が尋ねられるかを知る

6 つの場面

  1. S1. 診療所のネットワークが、それぞれの診療所への訪問の週ごとの件数を公開したいと考えています。ほかの全員の訪問を知っている人でさえ、読んだ誰にも特定の人が訪れたかどうかがわからないようにです。
  2. S2. 2 つの店が共同のポイントの特典を計画しています。それぞれ、自分の顧客のうちちょうど誰が相手の顧客でもあるかを、相手の一覧の残りを見ずに知らなければなりません。
  3. S3. 広告主が、広告を見た人のうち後で店で何かを買った人が何人かを知りたがっています。どちらの側も、それが誰かを知るべきではありません。
  4. S4. フィットネスのアプリが、町で毎日歩かれた歩数の合計を、サーバーがどの電話の数も一度も見ずに、電話から計算したいと考えています。
  5. S5. 掲示板が、信頼されたサービスがすでに確かめた訪問者を、パズルを見せずに、またサイトをまたいで追跡できないまま、受け入れたいと考えています。
  6. S6. ブラウザが、どのユーザーが尋ねたかをサービスに知られずに、サイトが有害と知られているかを安全のサービスに尋ねたいと考えています。

紛らわしい組

S1 と S4 はどちらも合計を出します。違いは何が守られるかです。安全な集計はサーバーから 入力 を隠しますが正確な合計を明かし、差分プライバシーは 公開された出力 が明かすものから人を守ります。S2 と S3 はどちらも一覧を比べます。問題は、名前が要るのか、数で足りるのかです。

答え方

辞書 choices を埋めてください。それぞれの場面は組に対応します。TECHNIQUES からそのまま写した技術と、PROPERTIES の合う性質の文字です。タプル は ("secure aggregation", "D") のように丸かっこで書きます。採点は答えを隠しているので、テストではなく場面を読んでください。

このモジュールの先:もう 2 つの道具。 準同型暗号 は、サーバーが読めないデータで計算できるようにします。暗号化した数を送ると、サーバーは暗号化したままそれを足したり掛けたりし、結果を復号できるのはあなただけです。本物で改良も進んでいますが、ふつうの計算よりまだずっと遅いので、今のところ実用的なのは主に単純な合計や検索のような狭い仕事です。端末上の機械学習 は、モデルを電話やノートパソコンで動かして問題をまるごと避けるので、データは決して外に出ません。代価は小さなモデルと端末の電池です。このコース自身のチューターもそうやって動いています。

ほかの言語では

同じ答えの紙を JavaScript のオブジェクトか Go のマップで:

// JavaScript
const choices = { S4: ["secure aggregation", "D"] /* ... */ };

// Go
choices := map[string][2]string{"S4": {"secure aggregation", "D"}}

実際の設計の見直しでは、チームはどの技術を選ぶよりも前に、「誰が何を知るか」の一覧を設計の文書の表として書くことがよくあります。

まとめ

  • プライバシーの技術は、誰が何を知ってよいかを書き出し、それを技術の約束と照らし合わせて選びます。
  • 安全な集計は入力を隠し、差分プライバシーは公開された出力から人を守ります。
  • 問いに答える最小限を求めましょう:件数で足りるなら、名前の代わりに件数(PSI の件数版)を。
  • 準同型暗号と端末上の ML もさらなる選択肢で、それぞれ本物の代価があります。
あなたの番

辞書 choices を埋め、それぞれのキー "S1" から "S6" がタプル (technique, letter) に対応するようにしてください。TECHNIQUES からそのまま写した技術と、それが保証する PROPERTIES の性質の文字(A から F)です。それぞれの技術を一度ずつ使ってください。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。