Müfredat 246 dersinden 34. · Modül 2: Matematik ve olasılık, yalnızca gerektiği kadar
Modül 2: Matematik ve olasılık, yalnızca gerektiği kadar

Puanlardan olasılıklara (softmax)

Neden önemli Bir rakam sınıflandırıcısı, rakam başına bir tane olmak üzere 10 ham puanla biter. Onları "her rakam ne kadar olası" diye okumak için pozitif olmaları ve toplamlarının 1 olması gerekir.

Küçük sayılar

Puanlar [2, 1, 0]. exp ile pozitif yap: yaklaşık [7.39, 2.72, 1.00]. Toplama, 11.11'e böl: [0.665, 0.245, 0.090]. Toplamları 1'dir, aynı sırayı korurlar ve daha yüksek bir puan her zaman daha yüksek bir olasılık demektir.

Softmax: her puanın exp değeri, bütün exp'lerin toplamına bölünmüş. Logitler: içeri giren ham puanlar.

Bir tuzak: her puana aynı sayıyı eklemek hiçbir şeyi değiştirmez (bölmede sadeleşir). [1002, 1001, 1000] dene: kâğıt üzerinde [2, 1, 0] ile aynı cevap, ama bilgisayarda exp(1002) taşar. Bunu kapı sınavında düzelteceksin.

Özet exp, sonra toplama böl.

Bu dersteki kelimeler ve semboller
softmax
her puanın exp değeri bölü toplam: puanlar olasılığa dönüşür
Senin sıran

1B bir dizi için softmax(z) yaz (burada düz sürüm yeterli) ve shift_invariant ayarla: her puana aynı sayıyı eklemek çıktıyı aynı bırakıyorsa True, değiştiriyorsa False yap.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.