보안 집계
왜 중요한가 피트니스 앱은 도시에서 걸은 전체 걸음 수를 원하고, 키보드 제작사는 모든 휴대폰에서 어떤 단어가 얼마나 자주 입력되는지 알고 싶어 해요. 어느 경우든 회사는 많은 기기에서 숫자 하나가 필요해요. 보안 집계는 어느 한 사람의 값도 보지 않고 그 합계를 알게 해 주고, 놀랄 만큼 단순해요.
교육용 암호이지 안전하지 않아요: 이 모듈 실습의 숫자는 읽을 수 있을 만큼 작고 무작위성은 채점을 되풀이할 수 있도록 시드가 고정돼 있어요. 실제 시스템은 검증된 라이브러리와 훨씬 큰 숫자를 써요. 교육용 코드를 제품에 절대 복사하지 마세요.
월급 요령
친구 셋이 누구도 자기 월급을 드러내지 않고 평균 월급을 알고 싶어 해요. 첫째가 자기 월급에 큰 무작위 숫자를 더해 그 결과를 둘째에게 속삭여요. 둘째는 자기 월급을 더해 다음으로 속삭여요. 셋째가 자기 것을 더해 다시 돌려줘요. 첫째가 자기 무작위 숫자를 빼면 합계가 나와요. 속삭임 하나하나는 들은 사람에게 무작위 숫자처럼 보였어요.
보안 집계: 많은 사람의 값의 합계(또는 평균)를 계산하되, 그걸 모으는 서버를 포함해 누구에게도 단 하나의 값도 드러나지 않게 하는 것.
덧셈 비밀 분산: 비밀 숫자를 혼자서는 무작위로 보이지만 더하면 비밀이 되는 여러 몫으로 자르는 것. 몫 하나, 또는 적어도 몫 하나가 빠진 어떤 묶음도 비밀에 대해 아무것도 드러내지 않아요.
몫이 작동하는 방식
숫자 7,350을 몫 셋으로 나누려면 무작위 숫자 둘을 고르고, 셋을 모두 더하면 7,350이 되도록 셋째를 정해요. 한 바퀴 도는 산술(모듈러스 M, 여기서는 2의 32제곱, 40억이 조금 넘어요)로 하면 몫 하나하나가 혼자서는 균일하게 무작위한 숫자예요:
M = 2 ** 32
s1, s2 = 3919211450, 120775123 # random
s3 = (7350 - s1 - s2) % M # whatever makes it add up
print((s1 + s2 + s3) % M) # 7350
왜 한 바퀴 돌까요? 그게 없으면 몫이 가끔 음수가 되거나 수상하게 비밀에 가까울 거예요. 그게 있으면 비밀이 무엇이든 모든 몫 값이 똑같이 그럴듯해서, 몫 하나는 아무 정보도 나르지 않아요.
많은 기기, 여러 서버
이제 각 휴대폰이 걸음 수를 서버마다 몫 하나로 나누고, 몫 1은 서버 1로, 몫 2는 서버 2로 보내요. 각 서버는 받은 몫을 더해요. 각 서버의 합계는 여전히 무작위로 보여요. 서버들의 합계를 함께 더해야만 진짜 도시 합계가 나타나요. 서버들이 한 휴대폰의 원래 몫을 모으지 않는 한, 어떤 휴대폰의 값도 결코 보이지 않아요.
실제 세계 버전
많은 휴대폰에 걸쳐 모델을 학습시키는 데 쓰는 시스템(연합 학습이라고 해요)은 서버 하나로 더 영리한 변형을 써요: 기기 쌍이 모든 걸 더하면 상쇄되는 무작위 가면에 합의하고, 중간에 오프라인이 되는 휴대폰을 다루는 추가 단계가 있어요. 핵심 생각은 여러분이 만들 그것이에요: 함께여야만 뜻이 통하는 무작위처럼 보이는 조각들.
보안 집계가 하지 않는 것
합계는 정확히 드러나요. 두 사람만 기여했고 한 사람이 자기 값을 안다면, 그걸 빼서 다른 사람의 것을 알 수 있어요. 합계 자체가 민감하면 거기에 차분 프라이버시 잡음도 더하세요. 두 도구는 잘 어울려요: 집계는 입력을 숨기고, DP는 출력에 대한 각 사람의 영향을 숨겨요.
다른 언어로
>>> 0으로 하는 32비트 한 바퀴 돌기와 브라우저의 안전한 무작위 원천을 쓴 JavaScript의 나누기:
function split(value, n) {
const shares = Array.from(crypto.getRandomValues(new Uint32Array(n - 1)));
const sum = shares.reduce((a, b) => (a + b) >>> 0, 0);
shares.push((value - sum) >>> 0);
return shares;
}그리고 u32의 wrapping_sub가 한 바퀴 돌기를 해 주는 Rust로:
let last = value.wrapping_sub(shares.iter().fold(0u32, |a, &b| a.wrapping_add(b)));요약
- 보안 집계는 합계를 드러내지만 어떤 기여도 드러내지 않아요.
- 덧셈 비밀 분산은 한 바퀴 도는 산술로 값을 더하면 그 값이 되는 무작위처럼 보이는 몫으로 나눠요.
- 각 서버는 무작위처럼 보이는 몫만 보고, 모든 서버 합계를 함께 해야 답이 나와요.
- 합계 자체는 정확히 드러나니, 합계가 누군가를 드러낼 수 있으면 DP 잡음과 짝지으세요.
연습 세계의 M(2의 32제곱)을 써서 함수 셋을 쓰세요. split(value, n, rng)는 몫 n개의 리스트를 반환해요: 처음 n - 1개는 rng.randrange(M)에서, 마지막은 (value - sum(shares)) % M과 같게. combine(shares)는 sum(shares) % M을 반환해요. aggregate(values, n_servers, rng)는 각 값을 split으로 나누고, 몫 j를 server_totals[j]에 더하고(mod M), total = combine(server_totals)인 튜플 (total, server_totals)를 반환해요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.