Lehrplan Lektion 133 von 246 · Modul 11: Netzwerke mit Gedächtnis (RNNs)
Modul 11: Netzwerke mit Gedächtnis (RNNs)

Gate: ein kaputtes RNN mit zwei Fehlern (KI aus)

Warum das wichtig istZwei Fehler gleichzeitig ohne Hilfe zu finden ist das was die Kliniken dich dazu trainiert haben.

KI aus. Dieser RNN-Charakter hat zwei Fehler. Einer verhindert, dass der loss weit sinkt, obwohl jeder loss eine endliche Zahl bleibt (nichts explodiert). Der andere bedeutet, dass das Netzwerk nie wirklich das nutzt, was es früher im Snippet gelesen hat. Finde und behebe beide.

Wörter und Symbole in dieser Lektion
rekurrentes Netzwerk (RNN)
ein Netzwerk, das einen Schritt nach dem anderen liest und einen verborgenen Zustand weitergibt
entropy
wie weit eine Verteilung gestreut ist: 0 wenn sicher, ln(n) wenn alle n Auswahlmöglichkeiten gleich sind
Du bist dran

Repariere init und run_snippet. Nach 200 Schritten muss der durchschnittliche Verlust der letzten 20 Schritte unter 2.45 liegen, jeder Verlust muss eine endliche Zahl sein, und das erste Zeichen eines Schnipsels muss die letzte Vorhersage noch beeinflussen.

KI aus: kein Tutor, keine Hinweise oder gelöste Lösung für diese Aufgabe. Nur dein eigenes Denken.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.