पाठ्यक्रम 156 में से पाठ 90 · निजी AI
निजी AI

Embeddings भी रिसती हैं

यह क्यों मायने रखता है कई AI features आपके टेक्स्ट को संख्याओं की सूचियों में बदलते हैं जिन्हें embeddings कहते हैं, फिर उन्हें search के लिए एक database में रखते हैं। यह सोचना आसान है कि "ये बस संख्याएँ हैं, निजी डेटा नहीं"। ये बस संख्याएँ नहीं: ये बता सकती हैं कि क्या लिखा गया, और कि क्या किसी ख़ास व्यक्ति का record डेटा में है भी।

मतलब का एक fingerprint

एक librarian की कल्पना करें जो किताबों को title से दर्ज करने के बजाय हर एक को एक विशाल नक्शे पर एक जगह देता है: एक कोने में खाना पकाने की किताबें, दूसरे में यात्रा guides, Italian खाने की किताबें दोनों के पास। नक्शे पर पास-पास दो किताबें मिलती-जुलती चीज़ों के बारे में हैं। एक embedding टेक्स्ट के एक टुकड़े के लिए वह जगह है।

Embedding: संख्याओं की एक सूची (अक्सर सैकड़ों) जो एक AI model एक टेक्स्ट से बनाता है, इस तरह कि मिलते-जुलते मतलब वाले टेक्स्ट को मिलती-जुलती सूचियाँ मिलें। यह मतलब के लिए एक नक्शे की जगह जैसा है।

Vector database: एक database जो embeddings रखता है और एक नई के सबसे क़रीबी वाली जल्दी ढूँढता है। यह "मतलब से search" चलाता है और AI सहायकों को आपके दस्तावेज़ खोजने देता है।

हर टेक्स्ट पर सिर्फ़ तीन संख्याओं वाला एक छोटा बनावटी उदाहरण (असली में सैकड़ों होती हैं):

notes = {
    "my knee hurts after running":   [0.91, 0.10, 0.02],
    "booked physio for my knee":     [0.88, 0.15, 0.05],
    "new recipe for lentil soup":    [0.03, 0.12, 0.95],
}
# The two knee notes sit close together; the soup is far away.

रिसाव 1: संख्याओं को वापस शब्दों में बदला जा सकता है

क्योंकि embeddings मतलब पकड़ने के लिए बनी हैं, जिसके पास वे हैं वह बहुत सीख सकता है। शोधकर्ताओं ने दिखाया है कि सही औज़ारों और उसी model तक पहुँच के साथ, छोटे टेक्स्ट के मूल शब्दों का बहुत सारा हिस्सा उनकी embeddings से फिर बनाया जा सकता है। उसके बिना भी, कोई आपकी रखी embeddings की तुलना अंदाज़ों की embeddings ("क्या कोई नोट घुटने की चोट के बारे में है?") से करके देख सकता है कि कौन-सी पास हैं।

रिसाव 2: membership inference

कभी-कभी राज़ यह नहीं कि एक record क्या कहता है बल्कि यह कि वह है या नहीं। अगर एक clinic की AI search सिर्फ़ मरीज़ों के नोट्स से बनी, तो "इस व्यक्ति का नोट वहाँ है" जानना ही बता देता है कि वे एक मरीज़ हैं।

Membership inference: यह पता करना कि एक ख़ास record एक dataset का हिस्सा था या नहीं, यह देखकर कि एक सिस्टम उस पर कैसे जवाब देता है।

यह रहा विचार सरल बनाया। मान लें एक search औज़ार 0 से 1 तक एक "similarity score" लौटाता है। एक हमलावर जिसके पास पहले से एक नोट की प्रति है (मान लें, एक लीक email) औज़ार से उसे ढूँढने को कहता है:

  • अगर नोट database में है, तो सबसे अच्छा मेल लगभग 1.00 पाता है, क्योंकि वह ख़ुद से मेल खा रहा है।
  • अगर नोट वहाँ नहीं है, तो सबसे अच्छा मेल बस मिलता-जुलता है, मान लें 0.80।

वह अंतर सवाल "क्या यह व्यक्ति यहाँ है?" का जवाब देता है। यही pattern train किए models के साथ दिखता है: एक model उन उदाहरणों पर ज़्यादा आश्वस्त होता है जिन पर वह train हुआ नए वालों से, और एक हमलावर वह अंतर माप सकता है।

बचाव

  • Embeddings को निजी डेटा मानें। उनकी उसी टेक्स्ट की तरह रक्षा करें जिससे वे आईं: पहुँच नियंत्रण, at rest encryption, टेक्स्ट हटने पर हटाना।
  • Embed करने से पहले redact करें। पिछले पाठ का redactor यहाँ भी काम करता है: पहले नाम और संपर्क विवरण हटाएँ।
  • कच्चे scores न दिखाएँ। नतीजे, या "अच्छा मेल" जैसे गोल किए bands दिखाएँ, ताकि कोई लगभग-परफ़ेक्ट ख़ुद-मेल न पहचान सके।
  • Index को device पर रखें जब यह एक व्यक्ति के अपने नोट्स के लिए हो। कोई और उससे पूछ नहीं सकता।
  • सावधान शोर जोड़ें जब कई लोगों के डेटा पर train कर रहे हों। इसे differential privacy कहते हैं; कोर्स का गहरा आधा हिस्सा इसे ठीक से ढकता है।

एक आम ग़लतफ़हमी

"हम सिर्फ़ vectors रखते हैं, टेक्स्ट नहीं, इसलिए कोई निजी डेटा नहीं रखा जाता।" vectors मतलब बचाने के लिए बनाए गए। अगर मतलब निजी था, तो vectors भी निजी हैं।

सार

  • एक embedding संख्याओं की एक सूची है जो एक टेक्स्ट का मतलब पकड़ती है, search के लिए एक vector database में रखी।
  • Embeddings टेक्स्ट की सामग्री रिसा सकती हैं, और अंदाज़ों से तुलना की जा सकती हैं।
  • Membership inference पूछता है "क्या यह record डेटा में है?", अक्सर असामान्य रूप से परफ़ेक्ट मेलों या आश्वस्त जवाबों को पहचानकर।
  • पहले redact करके, embeddings की मूल टेक्स्ट की तरह रक्षा करके, कच्चे scores छिपाकर और निजी indexes को device पर रखकर बचाव करें।

इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें

यह अभ्यास जल्द खुलेगा

इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।