Entmischung: ein Sparse Autoencoder
Warum das wichtig ist Wenn Features in Superposition gespeichert sind, wird das Betrachten von Einheiten sie nicht finden. Ein Sparse Autoencoder (Bricken et al. 2023, Cunningham et al. 2023) versucht dies rückgängig zu machen: baue jeden Vektor aus viel mehr Richtungen wieder auf als er Zahlen hat, aber nur wenige gleichzeitig.
Nimm die 64-nummerigen Vektoren des GPT nach Block 1 für 19.200 Zeichen des Unterrichtstextes. Ein Sparse Autoencoder mit 256 Features berechnet f = relu(z We + be) und baut z = f Wd wieder auf. Der Loss ist der Wiederaufbaufehler plus l1 mal die Gesamtgröße von f, was die meisten Features auf exakt Null drückt.
interp.train_sae(A, features=256, l1=...) trainiert eins; sae.unexplained(A) ist der Anteil der Vektorausbreitung, den der Wiederaufbau verpasst (0 ist perfekt) und sae.features(A) gibt f.
Zuerst vorhersagen: mit einem starken Push (l1 = 0.3), wird der Rebuild immer noch den Großteil der Streuung erklären (unerklärt unter 0.2)?
Wörter und Symbole in dieser Lektion
- superposition
- mehr Merkmale speichern als es Zahlen gibt, als Richtungen, die selten zusammen vorkommen
- sparse autoencoder
- Eine breite Schicht, die darauf trainiert ist, Vektoren aus wenigen aktiven Merkmalen gleichzeitig neu aufzubauen
Set my_guess auf "yes" oder "no". Trainiere bei l1 0.03 und 0.3 (600 steps von jeweils 128 vektoren). Fülle unexplained[l1] auf den zurückgehaltenen vektoren A_new und active[l1]: die mittlere Anzahl der Merkmale über null pro zurückgehaltenem Zeichen.
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.