Klinik: Datenfehler
Warum das wichtig ist "Der Bug ist immer im Modell" ist falsch. Datenfehler sind häufig und sie verstecken sich gut, weil die training loop selbst in Ordnung ist.
Datenleck: der Validierungsdatensatz enthält Trainingsbeispiele, also sieht die Validierungsgenauigkeit wunderbar aus und bedeutet nichts. Kein Shuffling: Batches kommen eine Klasse nach der anderen, das Modell jagt die Klasse, die es zuletzt gesehen hat, und die Genauigkeit bei gemischten Daten ist schlecht. Falsche Labels: viele Trainingslabels sind zufällig, also kann der Trainingsverlust nicht weit fallen, obwohl das Modell einen Batch auswendig lernen kann.
Jeder Fall unten ist ein Trainingslauf mit einem eingebauten Fehler. Für jeden Fall: nutze Sonden um den Fehler zu finden, dann schreibe eine Korrektur als Konfigurationsänderungen. Die Fehler in dieser Lektion: leak, no_shuffle, noisy_labels. Weniger Sonden sind besser; ein guter Diagnostiker braucht selten mehr als zwei pro Fall.
| Probe | Was es dir sagt |
|---|---|
loss_curve(c) | Trainingsverlust alle 50 Schritte und finale Validierungsgenauigkeit. Immer zuerst ansehen. |
loss_at_init(c) | Loss vor dem Training. Ein frisches 10-Klassen-Modell sollte nahe ln(10) = 2.30 sein. |
overfit_one_batch(c) | Kann es 32 Beispiele memorisieren? Ein gesundes Setup erreicht fast 0. |
grad_norms(c) | Gradientgröße pro Gewichtungsmatrix am Anfang. Null bedeutet, dass nichts gelernt werden kann. |
update_ratio(c) | Einfache SGD Schrittweite relativ zur Gewichtungsgröße. Gesund ist etwa 0.001 bis 0.1 (eine Faustregel für einfaches SGD; Modul 14 zeigt, warum Adam anders ist). |
act_stats(c) | Versteckte Aktivierungen: Mittelwert, größter Wert, Anteil der toten Einheiten. |
lr_schedule(c) | Die Lernrate bei steps 0, 50, 100 und so weiter. |
batch_labels(c) | Die Labels in den ersten paar Batches. |
overlap(c) | Wie viele Validierungsbeispiele erscheinen auch im Training. |
Wörter und Symbole in dieser Lektion
- probe
- eine schnelle Messung eines Durchlaufs, wie zum Beispiel Gradientengrößen oder tote Einheiten
- leakage
- Test- oder Validierungsinformationen gelangen in das Training
Fülle diagnosis (Fall zum Fehlernamen) und fixes (Fall zu einem Dictionary von Konfigurationsänderungen) für die Fälle A, B und C aus. Ein Fix muss den Fehler entfernen und auf mindestens 90% Validierungsgenauigkeit trainieren.
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.