제대로 보는 차분 프라이버시
왜 중요한가 "익명 통계만 발표한다"는 예전에는 안전하게 들렸어요. 이 강좌 앞에서 데이터셋에 대한 영리한 질문이 여전히 한 사람을 골라낼 수 있다는 걸 봤어요. 차분 프라이버시는 그것에 단단하고 잴 수 있는 한계를 두는 도구이고, 그 중심 생각인 프라이버시 예산은 오후 한나절이면 구현할 수 있어요.
교육용 코드이지 실제 사용용이 아니에요: 이 모듈 실습의 무작위성은 채점을 되풀이할 수 있도록 시드가 고정돼 있는데, 실제 프라이버시 시스템은 결코 그러면 안 돼요. 실제 시스템은 반올림과 다른 미묘한 누출도 다루는 검증된 차분 프라이버시 라이브러리를 써요. 교육용 코드를 제품에 절대 복사하지 마세요.
약속
여러분의 답이 있을 때와 없을 때 각각 발표되는 설문을 상상해 보세요. 발표된 두 결과가 거의 같아 보이면, 그걸 읽는 누구도 여러분이 참여했는지, 하물며 무엇을 말했는지 알 수 없어요. 그게 약속의 전부예요.
차분 프라이버시(DP): 어느 한 사람의 데이터가 포함되든 안 되든 분석 결과가 거의 바뀌지 않는다는 보장. 신중하게 크기를 정한 무작위 잡음을 더해서 이뤄요.
엡실론: "거의"가 얼마나인지 말하는 숫자. 작은 엡실론(예: 0.1)은 잡음이 많고 프라이버시가 강하다는 뜻이고, 큰 엡실론(예: 5)은 잡음이 적고 프라이버시가 약하다는 뜻이에요. 간단한 개수에 대해서는 척도 1 / epsilon의 라플라스 잡음을 더하면 엡실론-DP가 돼요. 한 사람은 개수를 최대 1만큼 바꿀 수 있으니까요.
예산
함정이 있어요. 같은 잡음 섞인 질문을 여러 번 하고 답을 평균하면: 수학 레슨에서 봤듯이 잡음이 상쇄되고 참 개수가 나타나요. 그러니 답 하나하나가 조금씩 새고, 누출이 쌓여요.
합성: 같은 사람들에 대해 여러 질문에 답하면 엡실론이 더해져요. 엡실론 0.25로 네 번 답하면 모두 1.0이 들어요.
프라이버시 예산: 데이터셋에 허용하는 전체 엡실론. 답마다 조금씩 써요. 예산이 바닥나면, 분석가가 아무리 공손하게 물어도 답하기를 멈춰요.
선불카드를 생각해 보세요: 질문마다 비용이 들고, 잔액은 줄어들기만 하고, 거부된 질문은 비용이 없어요. 그 장부 정리가 여러분이 만들 거예요. 잡음은 연습 세계의 laplace(scale, rng)에서 기성품으로 와요.
실제 세계의 로컬 DP와 중앙 DP
로컬 DP: 각 기기가 무엇이든 보내기 전에 잡음을 더해서, 회사는 결코 참값을 지니지 않아요(무작위 응답이 로컬 DP예요). 중앙 DP: 믿을 만한 서버가 참 데이터를 지니고 발표하는 결과에만 잡음을 더해요.
Apple은 2016년에 누군가 친 것을 모으지 않고 기기에서 인기 있는 새 단어와 이모지 같은 것을 배우려고 로컬 차분 프라이버시를 쓴다고 발표했어요. Google의 초기 시스템 RAPPOR(2014)도 로컬이었고, 브라우저에서 통계를 모으는 데 쓰였어요. 로컬 DP는 사람마다 잡음이 아주 많이 필요해서, 아주 큰 무리와 꽤 흔한 값에만 쓸모 있는 답을 줘요. Google의 나중에 발표된 작업 대부분, 예를 들어 오픈 소스 차분 프라이버시 라이브러리(2019)는 같은 엡실론에 훨씬 적은 잡음이 필요한 중앙 모델을 쓰고, 그 대가로 서버에게 원래 데이터를 믿고 맡겨요.
어느 모델도 "정답"은 아니에요. 로컬 DP는 회사로부터도 여러분을 지키고, 중앙 DP는 더 정확한 통계를 줘요. 두 레슨 뒤의 보안 집계는 양쪽의 일부를 얻는 한 방법이에요.
다른 언어로
JavaScript의 같은 예산 확인:
function spend(budget, epsilon) {
if (epsilon <= 0) return false;
if (budget.spent + epsilon > budget.total + 1e-9) return false;
budget.spent += epsilon;
budget.log.push(epsilon);
return true;
}그리고 빌림 규칙이 "거부하면 아무것도 바꾸지 않기"를 명시적으로 만드는 Rust로:
fn spend(b: &mut Budget, eps: f64) -> bool {
if eps <= 0.0 || b.spent + eps > b.total + 1e-9 { return false; }
b.spent += eps;
b.log.push(eps);
true
}왜 1e-9일까?
컴퓨터는 소수를 근사로 저장해요: Python에서 0.1 + 0.2는 0.30000000000000004예요. 아주 작은 여유가 없으면, 작은 걸음으로 예산 전체를 정확히 쓰는 게 잘못 거부될 수 있어요. 실제 라이브러리는 이걸 더 신중히 다루고, 여기서는 작은 여유로 충분해요.
흔한 오해
"잡음은 발표된 숫자가 틀렸다는 뜻이니 DP는 쓸모없다." 잡음은 추세가 아니라 한 사람을 숨기도록 크기를 정해요. 409나 415로 발표된 412라는 개수는 여전히 가게에 어떤 페이지가 인기 있는지 알려 주고, 민감한 페이지의 방문자 31명이라는 개수로는 특정한 사람이 그중 하나였다고 확인할 수 없어요.
요약
- DP는 어느 한 사람이 있든 없든 결과가 거의 바뀌지 않는다고 약속하고, 엡실론이 "거의"를 재요.
- 개수에 대해서는 척도 1 / epsilon의 라플라스 잡음이 엡실론-DP를 줘요.
- 엡실론은 질문에 걸쳐 쌓이니, 예산을 추적하고 지켜야 하고, 거부는 비용이 없어요.
- 로컬 DP(기기의 잡음)는 아무도 믿지 않지만 거대한 무리가 필요하고, 중앙 DP는 더 정확하지만 서버를 믿어요.
프라이버시 예산을 관리하는 함수 넷을 쓰세요. make_budget(total)은 {"total": total, "spent": 0.0, "log": []}을 반환해요. remaining(budget)은 total 빼기 spent를 반환해요. spend(budget, epsilon)은 epsilon이 0보다 큰 유한한 숫자가 아니면(0, 음수, nan, 무한대: 빠져나간 nan은 spent를 nan으로 만들어 뒤의 모든 확인이 통과하니, 예산이 결코 바닥나지 않을 거예요), 또는 쓰면 spent가 total을 1e-9보다 많이 넘게 되면 False를 반환하고 아무것도 바꾸지 않아요. 그 밖에는 spent에 epsilon을 더하고, log에 append하고, True를 반환해요. noisy_count(true_count, epsilon, budget, rng)는 spend가 거부하면 None을, 아니면 true_count + laplace(1 / epsilon, rng)를 반환해요. 정확한 잡음 섞인 숫자가 아니라 장부 정리로 채점해요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.