Lehrplan Lektion 225 von 246 · Modul 21: Ein Blick in ein Modell
Modul 21: Ein Blick in ein Modell

Einen Wert lesen und den Wert prüfen

Warum das wichtig ist Ein Feature erhält einen Namen von seinen besten Beispielen. Dieser Name ist eine Hypothese, und die meisten veröffentlichten Feature-Labels werden nie gegen Texte getestet, die der Labeler nicht gesehen hat.

Lade den aufgezeichneten Sparse Autoencoder des Kurses (256 features, l1 0.3, trainiert für 2,000 steps von 512 vektoren, länger als eine Lektion erlaubt, und die gleichen features auf jeder Maschine) und wähle für einige strings das feature aus, das am spezifischsten für Positionen ist, wo der Text mit diesem string endet. Beschrifte es dann und teste die Beschriftung auf zurückbehaltenem Text:

  • precision: von den zurückgehaltenen Stellen, an denen das Feature stark feuert (über der Hälfte seines größten Trainingswerts), der Anteil, wo der Text wirklich mit dem String endet;
  • recall: von den zurückbehaltenen Plätzen, die auf den String enden, der Anteil, an dem es feuert.

interp.top_contexts(sae, A, X, model, k) zeigt, wo Merkmal k am stärksten feuert, als der Text bis zu diesem Zeichen.

Zuerst vorhersagen: das Feature für "tra" feuert am stärksten auf " before tra" und " layers tra" (der Anfang von "train"). Wird ein "tra" Label meistens richtig sein auf neuem Text?

Wörter und Symbole in dieser Lektion
sparse autoencoder
Eine breite Schicht, die darauf trainiert ist, Vektoren aus wenigen aktiven Merkmalen gleichzeitig neu aufzubauen
Präzision, Recall (eines Labels)
von den Stellen, an denen ein Feature feuert, der Anteil, an dem das Label passt; von den Stellen, an denen das Label passt, der Anteil, an dem es feuert
Du bist dran

Setze my_guess auf "yes" oder "no". Schreibe check(k, s) und gib (precision, recall) für die gehaltenen Vektoren zurück, wobei das Feature an einer Stelle feuert, wenn sein Wert dort über der Hälfte seines größten Wertes auf den Trainingsvektoren (F[:, k].max()) liegt. Fülle results[s] = check(feature_for(s), s) für " the", "ing" und "tra". Setze honest_label auf die Strings, deren Label hält (precision mindestens 0.7) und really auf die dreibuchstabige Endung, auf die das "tra" Feature im gehaltenen Text am häufigsten feuert.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.