Programma Les 41 van 246 · Module 3: Neuron naar MLP
Module 3: Neuron naar MLP

Ja of nee antwoorden (logistic regression)

Waarom dit ertoe doet De meeste taken vragen om een categorie, geen getal: spam of niet, kat of hond. Eén neuron plus een squashing functie geeft ja of nee met een waarschijnlijkheid.

Bekijk het

De sigmoid drukt elk getal in het bereik 0 tot 1: sigmoid(z) = 1 / (1 + exp(-z)). sigmoid(0) = 0.5, sigmoid(3) is ongeveer 0.95, sigmoid(-3) ongeveer 0.05. Lees de output als "de kans dat het antwoord ja is".

De loss is de cross-entropy uit Module 2 met twee klassen: -mean(y log p + (1 - y) log(1 - p)). De gradiënt is prachtig simpel: grad_w = X.T @ (p - y) / n. Voorspelling min waarheid opnieuw.

Logistische regressie: één neuron met een sigmoid, getraind met cross-entropy. Het trekt een rechte grens tussen twee klassen.

Samenvatting Score, squash naar een waarschijnlijkheid, train op (p - y).

Woorden en symbolen in deze les
neuron
w . x + b, dan een activatie
sigmoid
1 / (1 + exp(-z)): drukt elk getal in 0 tot 1
leersnelheid (lr)
hoe groot elke trainingsstap is
Jij bent aan de beurt

Schrijf sigmoid(z) en train_logistic(X, y, lr, steps) die (w, b) teruggeven, beginnend bij nul. Daarna accuracy(X, y, w, b): het deel van de punten waar p > 0.5 overeenkomt met het label. Bereik ten minste 90% op verborgen punten van dezelfde twee groepen.

Een probleem ontdekt in deze les? Meld het · Vraag naar deze les

Deze oefening opent binnenkort

Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.