سرفصل‌ها درس 108 از 250 · شهود شبکه عصبی، LLMها و پروژه پایانی هوش مصنوعی
شهود شبکه عصبی، LLMها و پروژه پایانی هوش مصنوعی

تماشا: توجه وزن‌دهنده‌ها

شما به‌تازگی توجه ضرب‌در نقطه‌ای مقیاس‌شده را پیاده‌سازی کرده‌اید. این ماتریس‌ها در واقع چه کاری انجام می‌دهند؟ توجه به هر واژه اجازه می‌دهد تا به همه واژه‌های جمله (از جمله خودِ واژه) نگاه کند، اهمیت هر یک را ارزیابی کند و خود را به‌عنوان ترکیبی وزنی از آن‌ها بازسازی کند.

روی دکمه پخش کلیک کنید. به کلمه نگاه کنید sat توجه به سراسر the cat sat: نمرات خام به وزن‌های نرم‌ماکس تبدیل می‌شوند که مجموع آن‌ها ۱ می‌شود، ضخیم‌ترین خط به کلمه‌ای اشاره می‌کند که بیشترین اهمیت را دارد، و sat زمینه خود را، عمدتاً از cat.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.