Produktiver Fehler: XOR mit einem Neuron
Warum das wichtig istDas absichtliche Scheitern hier lehrt dich besser als jede Erklärung, warum Netzwerke mehr als eine Schicht brauchen.
XOR ("exclusive or") ist 1, wenn genau einer von zwei Eingängen 1 ist. Vier Punkte: (0,0) ist 0, (0,1) ist 1, (1,0) ist 1, (1,1) ist 0. Deine Aufgabe: lass dein logistic neuron aus der letzten Lektion alle vier richtig machen. Probiere jede learning rate, jede Anzahl an steps und jeden seed aus.
Das Neuron hier startet mit zufälligen Gewichten. Warum das wichtig ist: gestartet von allen Nullen, ist sein Gradient bei XOR aufgrund von Symmetrie exakt 0 (die vier Punkte ziehen gleichmäßig in entgegengesetzte Richtungen), also würde es sich niemals bewegen. Das ist ein anderer Fehler als der, um den es in dieser Lektion geht, also schließen wir ihn aus.
Verwende ein paar Minuten und versuche es wirklich, bevor du den Hinweis liest. Zuerst zu kämpfen ist der Punkt: Forschung zum Lernen zeigt, dass Menschen, die ein Problem versuchen, bevor ihnen die Idee beigebracht wird, es danach besser verstehen.
Wörter und Symbole in dieser Lektion
- neuron
- w . x + b, dann eine Aktivierung
- weights (w, W), bias (b)
- die Zahlen, die ein Neuron lernt; der bias verschiebt seine Ausgabe
- sigmoid
- 1 / (1 + exp(-z)): drückt jede Zahl in 0 bis 1
- Lernrate (lr)
- wie groß jeder Trainingsschritt ist
Verwende train_logistic(X, y, lr, steps, seed) auf XOR mit mindestens drei verschiedenen Einstellungen und schreibe die accuracy jedes Ergebnisses in my_attempts. Setze dann reason auf den Buchstaben der wahren Erklärung:
A: es braucht mehr Schritte. B: ein einzelnes Neuron kann die Ebene nur mit einer geraden Linie teilen, und keine gerade Linie trennt XOR. C: die learning rate ist falsch. D: vier Punkte sind zu wenige zum Lernen.
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.