Chương trình học Bài 134 trên tổng số 156 · Công nghệ quyền riêng tư vượt ra ngoài việc chặn
Công nghệ quyền riêng tư vượt ra ngoài việc chặn

Quyền riêng tư vi sai cho đúng

Vì sao điều này quan trọng "Chúng tôi chỉ công bố thống kê ẩn danh" từng nghe có vẻ an toàn. Ở phần trước của khóa học bạn đã thấy những câu hỏi khéo léo về một tập dữ liệu vẫn có thể nhận ra riêng một người. Quyền riêng tư vi sai là công cụ đặt một giới hạn cứng, đo được lên điều đó, và ý tưởng trung tâm của nó, ngân sách quyền riêng tư, là thứ bạn có thể cài đặt trong một buổi chiều.

Mã dạy học, không dùng thật: tính ngẫu nhiên trong các bài thực hành của mô-đun này có seed để việc chấm điểm lặp lại được, điều mà các hệ thống quyền riêng tư thật không bao giờ được làm. Các hệ thống thật dùng những thư viện quyền riêng tư vi sai đã kiểm định, những thư viện cũng xử lý việc làm tròn và các rò rỉ tinh vi khác. Đừng bao giờ chép mã dạy học vào một sản phẩm.

Lời hứa

Hãy tưởng tượng một cuộc khảo sát được công bố có và không có câu trả lời của bạn. Nếu hai kết quả công bố trông gần như y hệt, thì không ai đọc chúng có thể biết bạn có tham gia không, nói gì tới việc bạn đã nói gì. Đó là toàn bộ lời hứa.

Quyền riêng tư vi sai (DP): một bảo đảm rằng đầu ra của một phân tích hầu như không thay đổi dù dữ liệu của một người bất kỳ có được đưa vào hay không. Nó đạt được bằng cách thêm nhiễu ngẫu nhiên có kích cỡ được tính cẩn thận.

Epsilon: con số nói "hầu như" nghĩa là bao nhiêu. Epsilon nhỏ (ví dụ 0.1) nghĩa là nhiều nhiễu và quyền riêng tư mạnh; epsilon lớn (ví dụ 5) nghĩa là ít nhiễu và quyền riêng tư yếu. Với một phép đếm đơn giản, thêm nhiễu Laplace với thang 1 / epsilon cho epsilon-DP, vì một người có thể thay đổi một số đếm nhiều nhất là 1.

Ngân sách

Đây là điểm vướng. Hỏi cùng một câu hỏi có nhiễu nhiều lần và lấy trung bình các câu trả lời: nhiễu triệt tiêu, như bài toán đã cho thấy, và số đếm thật hiện ra. Nên mỗi câu trả lời rò rỉ một chút, và các rò rỉ cộng dồn lại.

Kết hợp (composition): khi bạn trả lời vài câu hỏi về cùng những người, các epsilon của chúng cộng lại. Trả lời với epsilon 0.25 bốn lần tốn tổng cộng 1.0.

Ngân sách quyền riêng tư: tổng epsilon bạn cho phép với một tập dữ liệu. Mỗi câu trả lời tiêu một phần. Khi ngân sách hết, bạn ngừng trả lời, dù nhà phân tích hỏi lịch sự đến đâu.

Hãy nghĩ tới một thẻ trả trước: mỗi câu hỏi tốn một khoản, số dư chỉ giảm xuống, và một câu hỏi bị từ chối không tốn gì. Phần sổ sách là thứ bạn sẽ xây. Nhiễu có sẵn từ laplace(scale, rng) trong thế giới luyện tập.

DP cục bộ và trung tâm trong thế giới thật

DP cục bộ (local DP): mỗi thiết bị thêm nhiễu trước khi gửi bất cứ thứ gì, nên công ty không bao giờ nắm giá trị thật (trả lời ngẫu nhiên hóa là DP cục bộ). DP trung tâm (central DP): một máy chủ đáng tin nắm dữ liệu thật và chỉ thêm nhiễu vào các kết quả nó công bố.

Apple đã công bố năm 2016 rằng họ dùng quyền riêng tư vi sai cục bộ để biết những thứ như từ mới và emoji phổ biến từ các thiết bị mà không thu thập những gì một người bất kỳ đã gõ. Hệ thống thời đầu của Google, RAPPOR (2014), cũng là cục bộ, dùng để thu thập thống kê từ trình duyệt của họ. DP cục bộ cần rất nhiều nhiễu cho mỗi người, nên nó chỉ cho câu trả lời hữu ích với các đám đông rất lớn và các giá trị khá phổ biến. Phần lớn công trình công bố sau này của Google, như thư viện quyền riêng tư vi sai mã nguồn mở của họ (2019), dùng mô hình trung tâm, nơi cần ít nhiễu hơn nhiều cho cùng epsilon, với cái giá là phải tin máy chủ nắm dữ liệu thô.

Không mô hình nào là "cái đúng". DP cục bộ bảo vệ bạn ngay cả khỏi công ty; DP trung tâm cho thống kê chính xác hơn. Tổng hợp an toàn, hai bài sau, là một cách để có được một phần của cả hai.

Trong các ngôn ngữ khác

Cùng bước kiểm tra ngân sách trong JavaScript:

function spend(budget, epsilon) {
  if (epsilon <= 0) return false;
  if (budget.spent + epsilon > budget.total + 1e-9) return false;
  budget.spent += epsilon;
  budget.log.push(epsilon);
  return true;
}

Và trong Rust, nơi các quy tắc mượn làm cho việc "không thay đổi gì khi từ chối" trở nên rõ ràng:

fn spend(b: &mut Budget, eps: f64) -> bool {
    if eps <= 0.0 || b.spent + eps > b.total + 1e-9 { return false; }
    b.spent += eps;
    b.log.push(eps);
    true
}

Vì sao lại là 1e-9?

Máy tính lưu số thập phân một cách gần đúng: 0.1 + 0.2 là 0.30000000000000004 trong Python. Không có một khoảng dư tí hon, việc tiêu đúng toàn bộ ngân sách theo những bước nhỏ có thể bị từ chối nhầm. Các thư viện thật xử lý việc này cẩn thận hơn; một khoảng dư nhỏ là đủ ở đây.

Một hiểu lầm phổ biến

"Nhiễu nghĩa là các con số công bố bị sai, nên DP vô dụng." Nhiễu được định cỡ để giấu một người, không phải giấu xu hướng. Một số đếm 412 được công bố là 409 hay 415 vẫn cho cửa hàng biết những trang nào phổ biến, trong khi số đếm 31 khách tới một trang nhạy cảm không thể dùng để xác nhận rằng một người cụ thể là một trong số họ.

Tóm tắt

  • DP hứa rằng kết quả hầu như không thay đổi dù có hay không có một người bất kỳ; epsilon đo mức "hầu như".
  • Với một số đếm, nhiễu Laplace với thang 1 / epsilon cho epsilon-DP.
  • Các epsilon cộng dồn qua các câu hỏi, nên một ngân sách phải được theo dõi và thi hành, và các lần từ chối không tốn gì.
  • DP cục bộ (nhiễu trên thiết bị) không tin ai nhưng cần đám đông khổng lồ; DP trung tâm chính xác hơn nhưng tin máy chủ.
Đến lượt bạn

Viết bốn hàm quản lý một ngân sách quyền riêng tư. make_budget(total) trả về {"total": total, "spent": 0.0, "log": []}. remaining(budget) trả về total trừ spent. spend(budget, epsilon) trả về False và không thay đổi gì nếu epsilon không phải một số hữu hạn lớn hơn 0 (0, âm, nan hay vô cực: một nan lọt qua sẽ làm spent thành nan, và mọi bước kiểm tra sau đó đều qua, nên ngân sách không bao giờ hết), hoặc nếu tiêu nó sẽ đưa spent vượt quá total hơn 1e-9; nếu không thì nó cộng epsilon vào spent, nối nó vào log và trả về True. noisy_count(true_count, epsilon, budget, rng) trả về None nếu spend từ chối, nếu không thì trả về true_count + laplace(1 / epsilon, rng). Bạn được chấm về phần sổ sách, không phải về các con số nhiễu chính xác.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.