شاهد: Softmax
قدمت لك Logistic regression احتمالية لفئتين. ماذا عن الفئات المتعددة، أو في أي وقت يتعين على النموذج تحويل الدرجات الخام إلى مجموعة نظيفة من الاحتمالات؟ هذه المهمة تعود لـ softmax.
اضغط تشغيل. شاهد أربع درجات خام (logits) تخضع للأسّ (exponentiated) (وهذا يضخّم الصدارة) ثم للتطبيع (normalized) لكي يصبح مجموعها 1 بالضبط، فتصبح توزيعاً احتمالياً. تظهر هذه الدالة الواحدة في كل مكان لاحقاً: أوزان الانتباه، والمصنِّفات، وLLM يختار رمزه التالي.
سيفتح هذا التمرين قريبا
أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.
يقوم هذا المتصفح بحظر ملفات تعريف الارتباط لـ learn.floati.life، لذا لا يمكن فتح الدروس التي أنهيتها هنا بالترتيب. اسمح بملفات تعريف الارتباط لهذا الموقع وأعد التحميل.