تعبیهها هم نشت میکنند
چرا مهم است بسیاری از قابلیتهای هوش مصنوعی متن شما را به فهرستهایی از اعداد به نام تعبیه تبدیل میکنند و سپس آنها را برای جستوجو در یک پایگاهداده ذخیره میکنند. آسان است فکر کنید «اینها فقط عددند، نه دادهٔ شخصی». فقط عدد نیستند: میتوانند فاش کنند چه نوشته شده و آیا رکورد شخص خاصی اصلاً در داده هست یا نه.
اثرانگشتی از معنا
کتابداری را تصور کنید که به جای بایگانی کتابها بر اساس عنوان، به هر کدام جایی روی یک نقشهٔ عظیم میدهد: کتابهای آشپزی در یک گوشه، راهنماهای سفر در گوشهای دیگر، کتابهای آشپزی ایتالیایی نزدیک هر دو. دو کتاب که روی نقشه نزدیک هماند دربارهٔ چیزهای مشابهی هستند. یک تعبیه همان جایگاه است، برای یک تکه متن.
تعبیه (embedding): فهرستی از اعداد (اغلب صدها عدد) که یک مدل هوش مصنوعی از یک متن تولید میکند، طوری که متنهایی با معنای مشابه فهرستهای مشابهی بگیرند. مثل جایگاهی روی نقشه برای معناست.
پایگاهدادهٔ برداری: پایگاهدادهای که تعبیهها را ذخیره میکند و نزدیکترینها به یک تعبیهٔ تازه را بهسرعت پیدا میکند. «جستوجو بر اساس معنا» را ممکن میکند و به دستیارهای هوش مصنوعی اجازه میدهد اسناد شما را بیابند.
یک نمونهٔ کوچک ساختگی با فقط سه عدد برای هر متن (نمونههای واقعی صدها عدد دارند):
notes = {
"my knee hurts after running": [0.91, 0.10, 0.02],
"booked physio for my knee": [0.88, 0.15, 0.05],
"new recipe for lentil soup": [0.03, 0.12, 0.95],
}
# The two knee notes sit close together; the soup is far away.
نشت 1: اعداد را میتوان دوباره به واژه تبدیل کرد
چون تعبیهها برای گرفتن معنا طراحی شدهاند، هر کسی که آنها را داشته باشد میتواند چیزهای زیادی بفهمد. پژوهشگران نشان دادهاند که با ابزارهای درست و دسترسی به همان مدل، بخش زیادی از متن اصلی متنهای کوتاه را میتوان از تعبیههایشان بازسازی کرد. حتی بدون آن، کسی میتواند تعبیههای ذخیرهشدهٔ شما را با تعبیههای حدسها مقایسه کند («آیا یادداشتی دربارهٔ آسیبدیدگی زانو هست؟») و ببیند کدامها نزدیکاند.
نشت 2: استنتاج عضویت
گاهی راز این نیست که یک رکورد چه میگوید، بلکه این است که آیا وجود دارد. اگر جستوجوی هوش مصنوعی یک درمانگاه فقط از یادداشتهای بیماران ساخته شده باشد، فهمیدن اینکه «یادداشت این شخص آنجاست» از قبل فاش میکند که او بیمار است.
استنتاج عضویت: پی بردن به اینکه آیا یک رکورد خاص بخشی از یک مجموعهداده بوده است، با تماشای اینکه یک سیستم چگونه به آن پاسخ میدهد.
این ایده به زبان ساده است. فرض کنید یک ابزار جستوجو «امتیاز شباهت» از 0 تا 1 برمیگرداند. مهاجمی که از قبل نسخهای از یک یادداشت (مثلاً یک ایمیل نشتکرده) را دارد از ابزار میخواهد آن را پیدا کند:
- اگر یادداشت در پایگاهداده باشد، بهترین تطابق امتیازی حدود 1.00 میگیرد، چون با خودش تطبیق میخورد.
- اگر یادداشت آنجا نباشد، بهترین تطابق فقط مشابه است، مثلاً 0.80.
همین فاصله به پرسش «آیا این شخص اینجاست؟» پاسخ میدهد. همین الگو در مدلهای آموزشدیده هم دیده میشود: یک مدل معمولاً روی نمونههایی که با آنها آموزش دیده مطمئنتر است تا روی نمونههای تازه، و مهاجم میتواند این تفاوت را اندازه بگیرد.
دفاعها
- با تعبیهها مثل دادهٔ شخصی رفتار کنید. از آنها مثل متنی که از آن آمدهاند محافظت کنید: کنترل دسترسی، رمزنگاری در حالت ذخیره، حذف وقتی متن حذف میشود.
- پیش از تعبیه کردن پنهانسازی کنید. پنهانساز درس قبل اینجا هم کار میکند: اول نامها و جزئیات تماس را حذف کنید.
- امتیازهای خام را نشان ندهید. نتایج، یا بازههای گردشده مثل «تطابق خوب» را نشان دهید تا هیچکس نتواند تطابق تقریباً کامل با خود را تشخیص دهد.
- نمایه را روی دستگاه نگه دارید وقتی برای یادداشتهای خود یک نفر است. هیچکس دیگری نمیتواند آن را پرسوجو کند.
- نویز سنجیده اضافه کنید وقتی روی دادهٔ افراد بسیار آموزش میدهید. این حریم خصوصی تفاضلی نام دارد؛ نیمهٔ عمیق دوره بهدرستی به آن میپردازد.
یک تصور نادرست رایج
«ما فقط بردارها را ذخیره میکنیم، نه متن را، پس هیچ دادهٔ شخصیای نگه داشته نمیشود.» بردارها برای حفظ معنا ساخته شدهاند. اگر معنا شخصی بود، بردارها هم شخصیاند.
خلاصه
- یک تعبیه فهرستی از اعداد است که معنای یک متن را میگیرد و برای جستوجو در یک پایگاهدادهٔ برداری ذخیره میشود.
- تعبیهها میتوانند محتوای متن را نشت دهند و میتوان آنها را با حدسها مقایسه کرد.
- استنتاج عضویت میپرسد «آیا این رکورد در داده هست؟»، اغلب با تشخیص تطابقهای غیرعادی کامل یا پاسخهای مطمئن.
- با اول پنهانسازی کردن، محافظت از تعبیهها مثل متن اصلی، پنهان کردن امتیازهای خام و نگه داشتن نمایههای شخصی روی دستگاه دفاع کنید.
مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید
این تمرین بهزودی باز میشود
درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و میتوانید همین الان این درس را بخوانید.
این مرورگر کوکیهای learn.floati.life را مسدود میکند، پس درسهایی که اینجا تمام کردید نمیتوانند به ترتیب باز شوند. کوکیها را برای این سایت مجاز کنید و صفحه را دوباره بارگذاری کنید.