سرفصل‌ها درس 193 از 246 · ماژول 18: یادگیری بدون برچسب
ماژول 18: یادگیری بدون برچسب

مرتب کردن عکس‌هایی که هیچ‌کس برچسب نزده

چرا مهم است برچسب‌ها گران‌اند: کسی باید به هر تصویر نگاه کند. تصاویر بدون برچسب تقریباً رایگان‌اند. اگر یک شبکه می‌توانست فقط از تصاویر بدون برچسب ویژگی‌های مفید یاد بگیرد، هر مدلی می‌توانست به جای هزاران نمونه از میلیون‌ها شروع کند. این یادگیری خودنظارتی است و مدل‌های بزرگ امروز این‌طور پیش‌آموزش می‌بینند.

تصاویر این ماژول عکس‌های ریز 16 x 16 از شش نوع شیء (توپ، جعبه، حلقه، چادر، صلیب، ماه) در صحنه‌های شلوغ‌اند: پس‌زمینه‌های تصادفی، نور از هر سو، سایه‌ها، چیزهایی در جلو، تاری و نویز حسگر. تولید شده‌اند، نه دانلود، و ساخته شده‌اند تا مثل عکس‌های واقعی رفتار کنند: دوره سه آماره را سنجید که هر عکس طبیعی به اشتراک می‌گذارد (اینکه جزئیات چگونه با مقیاس کم می‌شوند، لبه‌ها چقدر پراکنده‌اند، پیکسل‌های همسایه چقدر شبیه‌اند)، و این عکس‌ها در هر سه درون بازهٔ برش‌های عکس واقعی می‌نشینند. photos.stats(X) آن‌ها را چاپ می‌کند.

یک آزمون سریع برای هر مجموعه ویژگی: برای هر عکس، 5 نزدیک‌ترین همسایه‌اش را بر اساس آن ویژگی‌ها پیدا کنید و بشمارید چند تا همان نوع شیء را نشان می‌دهند. حدس تصادفی 1 در 6 می‌گیرد.

سه نوع ویژگی:

  • پیکسل‌های خام؛
  • یک CNN با وزن‌های تصادفی، هرگز آموزش ندیده؛
  • همان CNN پس از پیش‌آموزش SimCLR روی 4000 عکس، اصلاً بدون برچسب (دوره یک بار آموزشش داد؛ در درس 5 می‌بینید چگونه).

اول پیش‌بینی کنید: کدام عکس‌های همان شیء را نزدیک‌تر از همه کنار هم می‌گذارد؟

واژه‌ها و نمادهای این درس
یادگیری خودنظارتی
یادگیری ویژگی‌ها از داده بدون برچسب، با کاری که خود داده تعیین می‌کند
SimCLR
آموزش خودنظارتی با دو نما از هر تصویر و InfoNCE (Chen و همکاران 2020)
نوبت شما

my_guess را برابر "raw"، "random" یا "simclr" قرار دهید. agreement(F, labels, k) را بنویسید: هر ویژگی را استاندارد کنید، هر ردیف را به طول 1 مقیاس دهید و سهمی از k نزدیک‌ترین همسایه (بر اساس شباهت کسینوسی، یک عکس همسایهٔ خودش نیست) را که همان برچسب را دارند برگردانید. scores را برای سه نوع ویژگی پر کنید.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.