강의 계획 레슨 156개 중 90번째 · 비공개 AI
비공개 AI

임베딩도 새요

왜 중요한가 많은 AI 기능은 글을 임베딩이라는 숫자 리스트로 바꾸고, 검색을 위해 데이터베이스에 저장해요. "그냥 숫자일 뿐 개인 데이터가 아니다"라고 생각하기 쉬워요. 그냥 숫자가 아니에요: 무엇이 쓰였는지, 그리고 특정한 사람의 기록이 데이터에 있기는 한지 드러낼 수 있어요.

뜻의 지문

책을 제목으로 정리하는 대신 거대한 지도 위의 위치를 주는 사서를 상상해 보세요: 요리책은 한쪽 구석에, 여행 안내서는 다른 구석에, 이탈리아 요리에 관한 책은 둘 다 가까이에. 지도에서 가까운 두 책은 비슷한 것에 관한 거예요. 임베딩은 글 한 조각에 대한 그 위치예요.

임베딩: AI 모델이 글에서 만드는 숫자 리스트(흔히 수백 개)로, 뜻이 비슷한 글은 비슷한 리스트를 얻어요. 뜻을 위한 지도 위치 같은 거예요.

벡터 데이터베이스: 임베딩을 저장하고 새것에 가장 가까운 것을 빠르게 찾는 데이터베이스. "뜻으로 검색"을 움직이고 AI 도우미가 여러분의 문서를 찾아보게 해요.

글마다 숫자가 셋뿐인 아주 작은 지어낸 예(실제는 수백 개예요):

notes = {
    "my knee hurts after running":   [0.91, 0.10, 0.02],
    "booked physio for my knee":     [0.88, 0.15, 0.05],
    "new recipe for lentil soup":    [0.03, 0.12, 0.95],
}
# The two knee notes sit close together; the soup is far away.

새는 곳 1: 숫자를 다시 말로 바꿀 수 있어요

임베딩은 뜻을 담도록 설계됐으니, 그걸 가진 누구든 많은 걸 알 수 있어요. 연구자들은 맞는 도구와 같은 모델에 대한 접근이 있으면 짧은 글의 원래 표현 대부분을 임베딩에서 다시 만들 수 있다는 걸 보였어요. 그게 없어도, 누군가는 저장된 임베딩을 짐작("무릎 부상에 관한 메모가 있나?")의 임베딩과 비교해 어느 것이 가까운지 볼 수 있어요.

새는 곳 2: 구성원 추론

때로 비밀은 기록이 무엇을 말하는지가 아니라 있는지 없는지예요. 어떤 병원의 AI 검색이 환자 메모로만 만들어졌다면, "이 사람의 메모가 거기 있다"는 걸 알게 되는 것만으로 그 사람이 환자라는 게 드러나요.

구성원 추론: 시스템이 어떤 기록에 어떻게 반응하는지 지켜봐서, 그 기록이 데이터셋의 일부였는지 알아내는 것.

생각을 단순하게 하면 이래요. 검색 도구가 0에서 1의 "유사도 점수"를 반환한다고 해 봐요. 메모의 사본(예: 유출된 이메일)을 이미 가진 공격자가 도구에게 그걸 찾아 달라고 해요:

  • 메모가 데이터베이스에 있으면, 가장 잘 맞는 것은 약 1.00점이에요. 자기 자신과 맞추고 있으니까요.
  • 메모가 거기 없으면, 가장 잘 맞는 것은 그저 비슷할 뿐이라 0.80쯤이에요.

그 차이가 "이 사람이 여기 있나?"라는 질문에 답해요. 학습된 모델에서도 같은 패턴이 나타나요: 모델은 새것보다 학습한 예시에서 더 확신하는 경향이 있고, 공격자는 그 차이를 잴 수 있어요.

방어

  • 임베딩을 개인 데이터로 다루세요. 그것이 나온 글처럼 지키세요: 접근 제어, 저장 시 암호화, 글이 지워지면 함께 지우기.
  • 임베딩 전에 가리세요. 지난 레슨의 가리개가 여기서도 통해요: 이름과 연락처를 먼저 없애세요.
  • 원래 점수를 보여 주지 마세요. 결과나 "잘 맞음" 같은 반올림한 구간을 보여 줘서, 누구도 거의 완벽한 자기 맞춤을 알아채지 못하게 하세요.
  • 한 사람 자신의 메모용이라면 색인을 기기에 두세요. 다른 누구도 질의할 수 없어요.
  • 많은 사람의 데이터로 학습할 때는 신중하게 잡음을 더하세요. 이걸 차분 프라이버시라고 해요. 강좌의 깊은 절반에서 제대로 다뤄요.

흔한 오해

"우리는 글이 아니라 벡터만 저장하니 개인 데이터는 보관하지 않는다." 벡터는 뜻을 지키도록 만들어졌어요. 뜻이 개인적이었다면 벡터도 개인적이에요.

요약

  • 임베딩은 글의 뜻을 담은 숫자 리스트로, 검색을 위해 벡터 데이터베이스에 저장돼요.
  • 임베딩은 글의 내용을 흘릴 수 있고, 짐작과 비교될 수 있어요.
  • 구성원 추론은 "이 기록이 데이터에 있나?"를 물어요. 흔히 이상하게 완벽한 맞춤이나 확신에 찬 답을 알아채서요.
  • 먼저 가리고, 임베딩을 원래 글처럼 지키고, 원래 점수를 숨기고, 개인 색인은 기기에 두는 것으로 방어하세요.

이 레슨에서 문제를 발견했나요? 알려 주세요 · 이 레슨에 대해 묻기

이 연습은 곧 열려요

앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.