Kurrikulum Leson 34 van 246 · Module 2: Wiskunde en waarskynlikheid, net soos nodig
Module 2: Wiskunde en waarskynlikheid, net soos nodig

Skoore na waarskynlikhede (softmax)

Waarom dit saak maak 'n Digit-klassifiseerder eindig met 10 rou tellinge, een per syfer. Om hulle as "hoe waarskynlik is elke syfer" te lees, moet hulle positief wees en bymekaar optel tot 1.

Klein getalle

Scores [2, 1, 0]. Maak hulle positief met exp: ongeveer [7.39, 2.72, 1.00]. Deel deur die totaal, 11.11: [0.665, 0.245, 0.090]. Hulle tel op tot 1, hou dieselfde volgorde, en 'n hoër score beteken altyd 'n hoër waarskynlikheid.

Softmax: die eksponensiaal van elke telling, gedeel deur die som van al die eksponensiele. Logits: die rou tellings wat ingaan.

Een val: om dieselfde getal by elke telling by te voeg verander niks nie (dit kanselleer in die deling). Probeer [1002, 1001, 1000]: dieselfde antwoord as [2, 1, 0] op papier, maar exp(1002) oorloop op 'n rekenaar. Jy sal dit in die gate regstel.

Opsomming exp, en deel dan deur die totaal.

Woorde en simbole in hierdie les
softmax
exp van elke telling gedeel deur die totaal: tellings word waarskynlikhede
Jou beurt

Skryf softmax(z) vir 'n 1D array (die eenvoudige weergawe is reg hier), en shift_invariant: stel dit op True as dit om dieselfde getal by elke score by te voeg die uitset dieselfde laat, of False as dit dit verander.

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.