Ja oder Nein Antworten (logistic regression)
Warum das wichtig ist Die meisten Aufgaben verlangen nach einer Kategorie, nicht nach einer Zahl: Spam oder nicht, Katze oder Hund. Ein Neuron plus eine squashing function beantwortet ja oder nein mit einer Wahrscheinlichkeit.
Sieh es dir an
Die sigmoid-Funktion drückt jede Zahl in den Bereich von 0 bis 1: sigmoid(z) = 1 / (1 + exp(-z)). sigmoid(0) = 0.5, sigmoid(3) ist etwa 0.95, sigmoid(-3) etwa 0.05. Lies die Ausgabe als "die Wahrscheinlichkeit, dass die Antwort ja ist".
Der Verlust ist die Cross-Entropy aus Modul 2 mit zwei Klassen: -mean(y log p + (1 - y) log(1 - p)). Sein Gradient ist wunderschön einfach: grad_w = X.T @ (p - y) / n. Vorhersage minus Wahrheit erneut.
Logistische Regression: ein Neuron mit einer Sigmoid-Funktion, trainiert mit Cross-Entropy. Es zieht eine gerade Begrenzung zwischen zwei Klassen.
Zusammenfassung Score, auf eine Wahrscheinlichkeit reduzieren, trainieren auf (p - y).
Wörter und Symbole in dieser Lektion
- neuron
- w . x + b, dann eine Aktivierung
- sigmoid
- 1 / (1 + exp(-z)): drückt jede Zahl in 0 bis 1
- Lernrate (lr)
- wie groß jeder Trainingsschritt ist
Schreibe sigmoid(z) und train_logistic(X, y, lr, steps) und gib (w, b) zurück, beginnend bei Null. Dann accuracy(X, y, w, b): der Anteil der Punkte, wo p > 0.5 dem Label entspricht. Erreiche mindestens 90% auf den versteckten Punkten aus denselben zwei Gruppen.
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.