میانگینی بهتر، همان مهارت
چرا مهم است «مدل ما زیان پایینتری دارد» رایجترین ادعا در مدلسازی زبان است. زیان میانگینی روی هر پیشبینی است، و یک میانگین میتواند بهتر شود بیآنکه بخشی که برایتان مهم است اصلاً بهتر شود.
دوره دو GPT را که به یک شکل آموزش دیدهاند، با عرض 32 و 64، ثبت کرد. پهنتر زیان کنار گذاشتهشدهٔ پایینتری دارد. اما پیشبینیها همه شبیه هم نیستند: تمام کردن واژهای که شروع کردهاید («gradi» سپس «e») آسان است؛ برگزیدن حرف اول واژهٔ بعدی یعنی برگزیدن اینکه بعد چه بگویید، و دشوار است.
judge.per_position(model, X, Y) زیان هر پیشبینی را میدهد. آن را روی همهٔ جایگاهها، روی حرفهای اول واژهها و روی بقیهٔ هر واژه میانگین بگیرید.
اول پیشبینی کنید: آیا مدل پهنتر در برگزیدن واژهٔ بعدی بهتر میشود؟
واژهها و نمادهای این درس
- بذر
- عددی که انتخابهای تصادفی یک اجرا را ثابت میکند؛ بذری دیگر نتیجهٔ دیگری میدهد
my_guess را برابر "yes" یا "no" قرار دهید. loss[width] را برای عرضهای 32 و 64 با دیکشنریای از 'all'، 'first letter' و 'inside word' پر کنید. gain_from را برابر نوع جایگاهی ("first letter" یا "inside word") قرار دهید که سود مدل پهنتر از آن میآید.
مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید
این تمرین بهزودی باز میشود
درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و میتوانید همین الان این درس را بخوانید.
این مرورگر کوکیهای learn.floati.life را مسدود میکند، پس درسهایی که اینجا تمام کردید نمیتوانند به ترتیب باز شوند. کوکیها را برای این سایت مجاز کنید و صفحه را دوباره بارگذاری کنید.