방어
왜 중요한가 앞의 세 레슨은 이름이 핑거프린트, 준식별자, 해시를 통해 돌아온다는 걸 보여 줬어요. 여기 사람에 관한 데이터를 저장하거나 나누는 걸 만들 때 실제로 도움이 되는 도구가 있어요. 각각 단순하고, 각각 알아 둬야 할 비용이 있어요.
도구 네 개, 생각 하나: 세부를 덜 나누기
학교가 시험 결과를 공개하는 걸 생각해 보세요. 이름이 없어도 모든 학생의 점수를 나열하면 반 친구들이 누가 누구인지 알아낼 수 있어요. "반 평균은 64점이고, 3명이 최고점을 받았다"고 말하면 훨씬 적은 위험으로 학부모에게 필요한 걸 알려요. 여기 모든 도구가 그것의 한 판이에요.
1. 키 있는 해싱 (비밀 솔트)
솔트: 해시하기 전에 입력에 섞는 추가 글로, 같은 이메일이 다른 해시를 주게 해요. 솔트가 한 조직만 가진 비밀이면 흔히 키나 페퍼라고 불러요.
HMAC: 비밀 키로 해시하는 표준 방법. Python에 내장되어 있어요: hmac.new(key, message, hashlib.sha256).hexdigest().
지난 레슨의 조회 표는 누구든 sha256(email)을 계산할 수 있기 때문에만 작동해요. 비밀 키가 있으면 바깥 사람은 후보 이메일의 해시를 계산할 수 없으니 표가 쓸모없어요. 비용: 두 회사가 키를 나누지 않으면 더는 고객을 맞출 수 없는데, 흔히 그게 바로 요점이에요. 그리고 바깥 사람으로부터만 지켜요: 키를 가진 쪽은 여전히 무차별 대입할 수 있어요.
2. 일반화, 그다음 억제: k에 닿기
일반화: 정확한 값을 더 거친 값으로 바꾸기: 우편번호 40113은 4011*이 되고, 생년월일 1987-03-03은 1980s가 돼요.
거친 값은 더 큰 묶음을 만들어요. 하지만 어떤 묶음은 아주 작게 남아요(우리 데이터에서 성별이 X인 사람은 드물어요). 그래서 두 번째 단계는 억제예요: 묶음이 k보다 작은 행은 빼요. 두 단계 뒤에는 남은 모든 조합을 적어도 k명이 나눠 가져요. k를 고르는 건(5와 10이 흔해요) 위험에 대한 판단이에요.
정직한 한계: 묶음의 k명 모두가 같은 진단이면, 묶음은 여전히 그걸 드러내요. 그리고 억제는 가장 드문 사람들을 빼는데, 그들의 데이터가 가장 중요할 수도 있어요. k-익명성은 위험을 낮추지, 없애지 않아요.
3. 집계
흔히 행이 전혀 필요 없어요. 개수를 공개하세요: "천식 환자 212명". 억제("10 미만의 개수는 공개하지 않기")와 합치면 많은 공격이 사라져요. 공개 목록과 이을 행이 없거든요.
4. 차등 프라이버시, 부드럽게
개수도 여전히 샐 수 있어요. 어제 개수가 212이고 오늘이 213인데 한 사람이 들어왔다는 걸 알면, 그 사람의 진단을 알게 돼요. 차등 프라이버시는 공개하는 모든 숫자에 작은 무작위 잡음을 더해서, 어떤 한 사람도 누구든 볼 수 있는 방식으로 결과를 바꾸지 못하게 해요.
차등 프라이버시: 어떤 한 사람의 데이터가 들어갔든 아니든 공개된 결과가 거의 같아 보이리라는 약속. 신중하게 크기를 정한 무작위 잡음을 더해서 이뤄요.
엡실론: 프라이버시 설정. 엡실론이 작을수록 잡음이 많고 프라이버시가 커요. 클수록 정확도가 높고 프라이버시가 작아요.
고전적인 잡음은 척도 1 / epsilon의 라플라스 분포예요. 멋진 요령으로 평범한 무작위 뽑기 두 번에서 그걸 만들어요: rng.expovariate(epsilon) - rng.expovariate(epsilon). 엡실론 1이면 공개된 개수가 평균 약 1 틀리고, 엡실론 0.25면 약 4 틀려요. 큰 묶음의 평균은 쓸모 있게 남아요. 잡음이 그에 비해 작고 서로 상쇄되거든요.
테스트는 시드를 준 random.Random 객체를 rng로 넘겨요. 그 객체만 쓰면 잡음이 재현 가능해져서 채점이 공정해요. 7구간에서 더 깊이 가요: 프라이버시 예산, 그리고 질문에 많이 답하면 무슨 일이 일어나는지.
흔한 오해
"잡음은 데이터를 망친다." 아주 작은 묶음 하나에는 그래요, 그게 요점이에요: 개인이 드러날 수 있는 곳이 거기거든요. 사람들이 실제로 쓰는 큰 합계에는 잡음 몇 단위가 거의 상관없어요.
해 보기 통과하면 엡실론 2, 0.5, 0.1 각각에 대해 noisy_count(212, epsilon, rng)를 열 번씩 부르세요. 답의 퍼짐을 적어 보세요. 인구 2,000명인 마을의 보고서에 어떤 엡실론을 받아들이겠어요?
다른 언어로
JavaScript (Node):
const { createHmac } = require("crypto");
const keyedHash = (email, key) =>
createHmac("sha256", key).update(email.trim().toLowerCase()).digest("hex");
// Laplace noise from two exponential draws (use a seeded generator for tests)
const expo = (rate, rand) => -Math.log(1 - rand()) / rate;
const noisyCount = (n, eps, rand) => n + expo(eps, rand) - expo(eps, rand);Go:
mac := hmac.New(sha256.New, []byte(key))
mac.Write([]byte(strings.ToLower(strings.TrimSpace(email))))
hash := hex.EncodeToString(mac.Sum(nil))
noisy := float64(count) + r.ExpFloat64()/eps - r.ExpFloat64()/eps요약
- 비밀 키(HMAC)는 바깥 사람이 해시한 이메일을 무차별 대입하지 못하게 막아요.
- 일반화하고, 그다음 작은 묶음을 억제해서 k-익명성에 닿아요. 위험을 낮추지, 0으로 만들지 않아요.
- 행 대신 개수를 공개하고, 작은 개수는 숨기세요.
- 차등 프라이버시는 척도 1/epsilon의 잡음을 더해요: 아주 작은 묶음은 흐려지고, 큰 평균은 쓸모 있게 남아요.
keyed_hash(email, key)(정규화한 이메일의 HMAC-SHA256 16진수, 키는 UTF-8), generalise(row)(zip = 처음 4자리 더하기 *, "1980s" 같은 birth_decade, 그리고 gender와 diagnosis는 그대로인 새 dict), suppress_small(rows, columns, k)(같은 columns 값의 묶음이 적어도 k개 행인 행만 순서대로 지키기), noisy_count(true_count, epsilon, rng)(rng에서만 뽑은 척도 1/epsilon의 라플라스 잡음 더하기)를 쓰세요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.