Kurrikulum Leson 89 van 250 · Jou eerste Masjienleer-modelle
Jou eerste Masjienleer-modelle

Logistiese Regressie & Waarskynlikhede

Die besluitboom het vir jou 'n etiket gegee. Maar regte stelsels het gewoonlik meer nodig as "spam" of "nie spam" -> hulle het nodig hoe seker die model is, sodat jy 'n drempel kan stel, kan weggaan as jy onseker is, of die seker gevalle outomaties kan roeieer. Die werkperd-model daarvoor is logistic regression, en ten spyte van die naam is dit 'n classifier, nie 'n regressor nie.

Hier is die een idee daaragter. 'n Lineêre model bereken 'n gewigsom van die features, wat enige getal van minus oneindig tot plus oneindig kan wees. Logistiese regressie druk daardie getal deur die sigmoid funksie in 'n waarskynlikheid tussen 0 en 1:

sigmoid(z) = 1 / (1 + e**(-z))
# z = -4 -> 0.018     z = 0 -> 0.5     z = 4 -> 0.982

So die model gee P(class = 1) uit. Enigiets bo 0.5 voorspel klas 1, enigiets onder voorspel klas 0, en 'n waarde naby 0.5 beteken die model sê "Ek is nie seker nie." Daardie enkele getal is waarop elke nederslag-vertroue-drempel en roeier-trukie in hierdie kursus gebou is.

Die kode is dieselfde fit/predict-ritueel as die boom, met een nuwe metode, predict_proba, wat die waarskynlikhede in plaas van die harde labels teruggee:

from sklearn.linear_model import LogisticRegression

clf = LogisticRegression()
clf.fit(X, y)
clf.predict(X)              # hard labels: 0 or 1
clf.predict_proba(X)       # one [P(0), P(1)] row per sample, each row sums to 1

Jy gaan dit op 'n klein, intuïtiewe datastel aanleer: ure gestudeer teen of 'n student geslaag het. Min ure -> faal (0), baie ure -> slaag (1). Omdat die patroon monotonies is, moet die gefitte model 'n hoger waarskynlikheid van slaag gee aan iemand wat meer gestudeer het. Die twee kolomme van predict_proba is P(class 0) en P(class 1) in die volgorde van clf.classes_ (hier [0, 1]), so kolomindeks 1 is die waarskynlikheid van slaag.

Jou beurt

'n 1-feature-stel is gegee: hours het gestudeer en passed (0 of 1). (1) Skep 'n LogisticRegression() en fit dit op X, y. (2) Stoor die harde labels vir X in preds. (3) Gebruik predict_proba om die waarskynlikheid van passing (klas 1) te stoor vir 2 uur studeer in p_low, en vir 7 uur in p_high. Die model moet selfverseker genoeg wees dat p_high > p_low, en albei is werklike waarskynlikhede tussen 0 en 1.

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.