Waar de koppen naar kijken
Waarom dit ertoe doet Attention weights kunnen worden gelezen. Kijken naar wat getrainde heads doen is het begin van interpreteerbaarheid: een model begrijpen vanuit de binnenkant, niet alleen vanuit de outputs.
Het opgenomen width-64 model heeft 2 lagen van 4 heads. Meet voor elke head hoeveel aandacht een positie gemiddeld geeft aan het karakter vlak voor het. Als een head zijn aandacht gelijkmatig over alles zou verspreiden wat het kan zien, zou dat getal ongeveer 0.10 zijn over een snippet van 32 karakters.
Voorspel: welke laagkoppen zijn gespecialiseerd in "kijk naar het vorige karakter"?
Woorden en symbolen in deze les
- let op
- softmax van query-key scores, gebruikt om de waarden te middelen
- head
- one van H smallere aandachten draaien naast elkaar, elk met zijn eigen patroon
Zet my_guess op 0 of 1. Schrijf prev_share(A) voor één t bij t attention matrix: het gemiddelde van A[i, i - 1] voor i van 1 tot t - 1. Vul share: (layer, head) met het gemiddelde van prev_share over de 40 held-out snippets, gebruikmakend van attention_maps.
Een probleem ontdekt in deze les? Meld het · Vraag naar deze les
Deze oefening opent binnenkort
Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.
Deze browser blokkeert cookies voor learn.floati.life, dus lessen die je hier hebt afgerond kunnen niet in de juiste volgorde worden geopend. Sta cookies toe voor deze site en laad de pagina opnieuw.