سرفصل‌ها درس 87 از 156 · هوش مصنوعی خصوصی
هوش مصنوعی خصوصی

درخواست‌های شما به کجا می‌روند

چرا مهم است وقتی در یک گفت‌وگوی هوش مصنوعی ابری تایپ می‌کنید، واژه‌هایتان دستگاهتان را ترک می‌کنند و روی کامپیوترهای کس دیگری می‌نشینند. دانستن اینکه دقیقاً کجا می‌روند، چه کسی می‌تواند آن‌ها را ببیند و چه مدت می‌مانند کمک می‌کند تصمیم بگیرید چه چیزی را چسباندن امن است و چه چیزی را هرگز نباید بچسبانید.

کارت‌پستال و پاکت

تصور کنید نامه‌ای برای یک کارشناس کاربلد پست می‌کنید. پاکت مانع می‌شود نامه‌رسان در راه آن را بخواند. اما کارشناس باید پاکت را باز کند تا به شما پاسخ دهد، پس تک‌تک واژه‌ها را می‌خواند. هوش مصنوعی ابری هم همین‌طور کار می‌کند: سفر محافظت می‌شود، مقصد نه.

هوش مصنوعی ابری: یک مدل هوش مصنوعی که روی سرورهای یک شرکت اجرا می‌شود. دستگاه شما متنتان (درخواست) را برایش می‌فرستد، سرورها مدل را اجرا می‌کنند و پاسخ از طریق اینترنت برمی‌گردد.

درخواست (prompt): همهٔ آنچه یک‌جا برای مدل می‌فرستید: پیامتان، به‌علاوهٔ پیام‌های قبلی گفت‌وگو، به‌علاوهٔ فایل‌ها، تصاویر یا اسناد چسبانده‌شده.

سفر یک درخواست

فرض کنید پیش‌نویس یک ایمیل را در گفت‌وگویی در chat.example می‌چسبانید و می‌پرسید «این را دوستانه‌تر کن». این چیزی است که معمولاً، گام به گام، رخ می‌دهد:

  1. مرورگرتان آن را با HTTPS رمزنگاری می‌کند و می‌فرستد. افرادی که روی Wi-Fi شما یا نزد فراهم‌کنندهٔ اینترنتتان هستند می‌توانند ببینند با chat.example حرف زده‌اید، اما نه آنچه نوشته‌اید. (ماژول رمزنگاری توضیح می‌دهد HTTPS چه چیزی را پنهان می‌کند و چه چیزی را نه.)
  2. سرورهای فراهم‌کننده آن را رمزگشایی می‌کنند. باید این کار را بکنند، وگرنه مدل نمی‌توانست آن را بخواند. از اینجا به بعد، متن شما برای سیستم‌های فراهم‌کننده خواناست.
  3. مدل کل گفت‌وگو را می‌خواند. بیشتر گفت‌وگوها پیام‌های قبلی را با هر پیام تازه دوباره می‌فرستند، پس چیزی که یک ساعت پیش چسبانده‌اید هنوز فرستاده می‌شود.
  4. درخواست معمولاً ثبت می‌شود. لاگ‌ها اغلب حساب شما، زمان، نشانی IP شما و، بسته به سرویس، خود متن را دارند.
  5. متن ممکن است نگه داشته شود. تاریخچهٔ گفت‌وگو، بررسی‌های ایمنی برای سوءاستفاده، و در بعضی سرویس‌ها و طرح‌ها، بهبود مدل‌های آینده. بعضی فراهم‌کنندگان اجازه می‌دهند آموزش را خاموش کنید؛ تنظیمات بسته به فراهم‌کننده و طرح متفاوت است.
  6. ابزارها و افزونه‌ها می‌توانند آن را منتقل کنند. اگر هوش مصنوعی برایتان در وب جست‌وجو کند، ایمیلتان را بخواند یا سرویس دیگری را فراخوانی کند، بخش‌هایی از درخواستتان هم می‌توانند به آن سرویس‌ها سفر کنند.

فراهم‌کننده چه چیزی می‌تواند بفهمد

واژه‌هایی که تایپ می‌کنید فقط بخشی از آن است. دور هر درخواست فراداده قرار دارد: واقعیت‌هایی دربارهٔ پیام، نه محتوای آن.

فراداده: داده دربارهٔ داده. برای یک درخواست: چه کسی آن را فرستاده، کی، از کدام نشانی IP و دستگاه، چقدر طولانی بوده و کدام فایل‌ها پیوست شده‌اند.

در طول هفته‌ها، درخواست‌ها و فراداده کنار هم می‌توانند تصویری دقیق بسازند: شغل شما، نگرانی‌های سلامتتان، مشکلات مالی‌تان، نام همکارانتان. افراد اغلب به یک دستیار گفت‌وگو چیزهایی می‌گویند که هرگز در یک جعبهٔ جست‌وجو تایپ نمی‌کردند، چون حس یک گفت‌وگوی خصوصی را دارد.

یک تصور نادرست رایج

«گفت‌وگو را پاک کردم، پس از بین رفته است.» پاک کردن معمولاً آن را از نمای تاریخچهٔ شما حذف می‌کند. نسخه‌هایی ممکن است تا مدتی در پشتیبان‌ها، لاگ‌های ایمنی یا صف‌های بازبینی بمانند، تا هر زمانی که سیاست فراهم‌کننده می‌گوید. هر چه برای هوش مصنوعی ابری می‌فرستید را چیزی بدانید که ممکن است نگه داشته شود.

یک قاعدهٔ سرانگشتی ساده

پیش از چسباندن بپرسید: «اگر یک غریبه در این شرکت این را بخواند مشکلی ندارم؟» اگر پاسخ نه است، یکی از این سه کار را بکنید:

  • اول بخش‌های شخصی را حذف کنید (نام‌ها، ایمیل‌ها، شماره‌تلفن‌ها، شماره‌حساب‌ها). در دو درس بعد برای این کار کد می‌نویسید.
  • از یک مدل روی دستگاه استفاده کنید که هرگز متن شما را به جایی نمی‌فرستد. این درس بعدی است.
  • برای آن از هوش مصنوعی استفاده نکنید. بعضی چیزها، مثل گذرواژه‌ها و رازهای دیگران، هرگز جایی در یک درخواست ندارند.

امتحان کنید تنظیمات هر ابزار گفت‌وگوی هوش مصنوعی‌ای را که استفاده می‌کنید باز کنید و دنبال واژه‌هایی مثل «data controls»، «history» یا «improve the model» بگردید. سه چیز را یادداشت کنید: آیا تاریخچهٔ گفت‌وگوی شما نگه داشته می‌شود، آیا می‌تواند برای آموزش استفاده شود، و آیا می‌توانید آن را خاموش کنید؟ دو دقیقه طول می‌کشد و می‌دانید در چه وضعی هستید.

خلاصه

  • HTTPS درخواست شما را در راه محافظت می‌کند، اما فراهم‌کننده برای پاسخ دادن باید آن را رمزگشایی کند، پس می‌تواند آن را بخواند.
  • درخواست‌ها اغلب با فراداده ثبت می‌شوند و ممکن است بسته به سرویس و تنظیمات شما برای تاریخچه، بررسی‌های ایمنی یا آموزش نگه داشته شوند.
  • پاک کردن یک گفت‌وگو از تاریخچه‌تان قول نمی‌دهد که همهٔ نسخه‌ها از بین رفته باشند.
  • برای هر چیزی که به یک غریبه نشان نمی‌دادید، دادهٔ شخصی را حذف کنید، سراغ مدل روی دستگاه بروید یا از هوش مصنوعی صرف‌نظر کنید.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.