سرفصل‌ها درس 230 از 246 · ماژول 22: سنجیدن ادعاها
ماژول 22: سنجیدن ادعاها

میانگینی بهتر، همان مهارت

چرا مهم است «مدل ما زیان پایین‌تری دارد» رایج‌ترین ادعا در مدل‌سازی زبان است. زیان میانگینی روی هر پیش‌بینی است، و یک میانگین می‌تواند بهتر شود بی‌آنکه بخشی که برایتان مهم است اصلاً بهتر شود.

دوره دو GPT را که به یک شکل آموزش دیده‌اند، با عرض 32 و 64، ثبت کرد. پهن‌تر زیان کنار گذاشته‌شدهٔ پایین‌تری دارد. اما پیش‌بینی‌ها همه شبیه هم نیستند: تمام کردن واژه‌ای که شروع کرده‌اید («gradi» سپس «e») آسان است؛ برگزیدن حرف اول واژهٔ بعدی یعنی برگزیدن اینکه بعد چه بگویید، و دشوار است.

judge.per_position(model, X, Y) زیان هر پیش‌بینی را می‌دهد. آن را روی همهٔ جایگاه‌ها، روی حرف‌های اول واژه‌ها و روی بقیهٔ هر واژه میانگین بگیرید.

اول پیش‌بینی کنید: آیا مدل پهن‌تر در برگزیدن واژهٔ بعدی بهتر می‌شود؟

واژه‌ها و نمادهای این درس
بذر
عددی که انتخاب‌های تصادفی یک اجرا را ثابت می‌کند؛ بذری دیگر نتیجهٔ دیگری می‌دهد
نوبت شما

my_guess را برابر "yes" یا "no" قرار دهید. loss[width] را برای عرض‌های 32 و 64 با دیکشنری‌ای از 'all'، 'first letter' و 'inside word' پر کنید. gain_from را برابر نوع جایگاهی ("first letter" یا "inside word") قرار دهید که سود مدل پهن‌تر از آن می‌آید.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.