سرفصل‌ها درس 122 از 246 · ماژول 10: شبکه‌هایی که می‌بینند (CNNها)
ماژول 10: شبکه‌هایی که می‌بینند (CNNها)

استفادهٔ دوباره از یک شبکهٔ آموزش‌دیده (یادگیری انتقالی)

چرا مهم است به‌ندرت برای کار خودتان دادهٔ برچسب‌خوردهٔ زیادی دارید. شبکه‌ای که روی یک مجموعه‌دادهٔ بزرگ مرتبط آموزش دیده از قبل ویژگی‌های مفیدی می‌داند؛ استفادهٔ دوباره از آن اجازه می‌دهد یک مجموعه‌دادهٔ ریز راه درازی برود.

برنامه: لایه‌های conv را روی یک مجموعه‌دادهٔ بزرگ و تمیز از شکل‌ها آموزش دهید. سپس با یک کار تازه و دشوارتر با فقط 40 تصویر برچسب‌خورده روبه‌رو شوید: همان شکل‌ها، اما بسیار پرنویزتر. لایه‌های conv آموزش‌دیده را منجمد نگه دارید و فقط یک لایهٔ نهایی تازه را روی ویژگی‌هایی که روی کل تصویر میانگین گرفته شده‌اند آموزش دهید (ویژگی‌های بی‌جایگاه از نمونه‌های اندک تعمیم می‌یابند). با آموزش کل شبکه از صفر روی 40 تصویر مقایسه کنید.

منجمد: لایه‌هایی که وزن‌هایشان در طول آموزش به‌روز نمی‌شوند. تنظیم دقیق (fine-tuning): ادامهٔ آموزش یک شبکهٔ پیش‌آموزش‌دیده روی دادهٔ تازه.

واژه‌ها و نمادهای این درس
یادگیری انتقالی
استفادهٔ دوباره از لایه‌هایی که برای یک کار آموزش دیده‌اند برای کاری دیگر
RECORDED
یک اجرای واقعی که دوره یک بار آموزش داده و برای مطالعهٔ شما ارائه می‌کند
نوبت شما

پیش‌آموزش یک بار توسط دوره انجام شده و وزن‌هایش برایتان بارگذاری شده‌اند (یک شبکهٔ ثبت‌شده). train_head(w1, w2, X, y, steps) را بنویسید که فقط یک لایهٔ خروجی تازهٔ 16 به 4 را روی لایه‌های conv منجمد آموزش می‌دهد (Adam با 1e-2 کار می‌کند) و یک تابع پیش‌بینی برمی‌گرداند، و train_scratch(X, y, steps) را که هر سه لایه را از وزن‌های تصادفی تازه آموزش می‌دهد. آزمون هر دو را روی 1,000 تصویر آزمون پرنویز اجرا می‌کند. مدل انتقالی شما باید دست‌کم 8 امتیاز از شبکهٔ از-صفر خود دوره (تنظیم‌های ثابت: 8 و 16 کانال، Adam 3e-3، 300 گام، حدود 58%) بهتر باشد؛ اجرای انتقالی دوره حدود 72% می‌گیرد. شبکهٔ از-صفر خودتان فقط باید چیزی یاد بگیرد (بالای 35%، که شانس 25% است). اگر مال شما از شبکهٔ از-صفر دوره بهتر شد، آفرین: خوب تنظیم کردن آموزش از صفر مهارتی واقعی است، و همین دلیل است که یک مقایسهٔ منصفانه تنظیم‌ها را از پیش ثابت می‌کند.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.