سرفصل‌ها درس 203 از 246 · ماژول 19: بزرگ‌تر، و چقدر بهتر (قوانین مقیاس)
ماژول 19: بزرگ‌تر، و چقدر بهتر (قوانین مقیاس)

وزن‌ها، داده یا محاسبه: چه چیزی جلویش را گرفته؟

چرا مهم است خرج بیشتر روی چیز اشتباه هیچ چیزی نمی‌خرد. مدلی که گرسنهٔ داده است با بزرگ‌تر کردنش بهتر نمی‌شود؛ یک مدل ریز با خوراندن بیشتر بهتر نمی‌شود. شبکه هر دو را نشان می‌دهد، اگر بدانید کجا نگاه کنید.

در طول یک ردیف شبکه (یک عرض، دادهٔ بیشتر و بیشتر) و در طول یک ستون (یک مقدار داده، مدل‌های پهن‌تر و پهن‌تر) نگاه کنید.

یک اجرا وقتی محدود به داده است که پهن‌تر کردن مدل در آن مقدار داده به‌سختی کمک کند (یا آسیب بزند). وقتی محدود به مدل است که دادهٔ بیشتر در آن عرض به‌سختی کمک کند.

واژه‌ها و نمادهای این درس
توکن
اینجا، یک پیش‌بینی: یک نویسه
محدود به داده، محدود به مدل
وقتی عرض بیشتر، یا دادهٔ بیشتر، به‌سختی کمک می‌کند
نوبت شما

gain_wider را پر کنید: برای 8,000 توکن و برای 1.5 میلیون توکن، افت زیان از عرض 256 به عرض 1024. gain_more_data را پر کنید: برای عرض 2 و برای عرض 1024، افت زیان از 512,000 به 1.5 میلیون توکن. سپس verdict را برای دو گوشه برابر "data-limited" یا "model-limited" قرار دهید.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.