Logistische Regressie & Waarschijnlijkheden
De beslissingsboom gaf je een label. Maar echte systemen hebben meestal meer nodig dan "spam" of "geen spam" -> ze hebben nodig hoe zeker het model is, zodat je een drempelwaarde kunt instellen, kunt onthouden bij onzekerheid, of de zekere gevallen automatisch kunt routeren. Het werkpaard model hiervoor is logistic regression, en ondanks de naam is het een classifier, geen regressor.
Hier is de ene gedachte erachter. Een lineair model berekent een gewogen som van de features, wat elk getal kan zijn van min oneindig tot plus oneindig. Logistische regressie drukt dat getal door de sigmoid functie naar een kans tussen 0 en 1:
sigmoid(z) = 1 / (1 + e**(-z))
# z = -4 -> 0.018 z = 0 -> 0.5 z = 4 -> 0.982Dus het model geeft P(class = 1) uit. Alles boven de 0.5 voorspelt klasse 1, alles onder voorspelt klasse 0, en een waarde dicht bij 0.5 is het model dat zegt "Ik weet het niet zeker." Dat ene getal is de basis voor elke confidence-threshold en routing truc in deze cursus.
De code is hetzelfde fit/predict ritueel als de boom, met één nieuwe methode, predict_proba, die de waarschijnlijkheden retourneert in plaats van de harde labels:
from sklearn.linear_model import LogisticRegression
clf = LogisticRegression()
clf.fit(X, y)
clf.predict(X) # hard labels: 0 or 1
clf.predict_proba(X) # one [P(0), P(1)] row per sample, each row sums to 1Je traint het op een kleine, intuïtieve dataset: uren gestudeerd tegenover of een student geslaagd is. Weinig uren -> niet geslaagd (0), veel uren -> geslaagd (1). Omdat het patroon monotoon is, moet het gefitte model een hogere kans op slagen geven aan iemand die meer heeft gestudeerd. De twee kolommen van predict_proba zijn P(class 0) en P(class 1) in de volgorde van clf.classes_ (hier [0, 1]), dus kolomindex 1 is de kans op slagen.
Er wordt een dataset met 1 kenmerk gegeven: hours bestudeerd en passed (0 of 1). (1) Maak een LogisticRegression() en fit het op X, y. (2) Sla de harde labels voor X op in preds. (3) Gebruik predict_proba om de kans van passing (klasse 1) op te slaan voor 2 uur studeren in p_low, en voor 7 uur in p_high. Het model moet zeker genoeg zijn dat p_high > p_low, en beide zijn echte kansen tussen 0 en 1.
Een probleem ontdekt in deze les? Meld het · Vraag naar deze les
Deze oefening opent binnenkort
Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.
Deze browser blokkeert cookies voor learn.floati.life, dus lessen die je hier hebt afgerond kunnen niet in de juiste volgorde worden geopend. Sta cookies toe voor deze site en laad de pagina opnieuw.