Eén bevinding in je model, met een controle
Waarom dit ertoe doet Les van Module 21, toegepast op je eigen model: de score van een probe betekent niets totdat je het vergelijkt met wat dezelfde probe leest van een netwerk dat nooit getraind is.
De probe set voor jouw track stelt één vraag over elke input (meaning): op de taal track, "is het volgende teken een klinker?"; op de afbeeldingen track, "welk object staat op de foto?".
Train je basislijn (seed 0). Lees de hidden layer (studio.hidden_units(model, X)) en train een linear probe op de eerste helft van de probe set, test op de tweede (ssl.probe, 300 stappen). De controle: dezelfde probe op een untrained netwerk van dezelfde vorm en seed (studio.MLP(track.n_in, width, track.n_out, seed=0)). Willekeurige ReLU units zetten inputs al om in veel features, en een probe kan veel daarvan lezen; alleen het deel boven de controle is iets wat training heeft toegevoegd.
Woorden en symbolen in deze les
- baseline
- de simpele run waar elke verandering tegen wordt gemeten, over dezelfde seeds
Vul trained, control en base_rate in (het aandeel van het meest voorkomende label in de testhelft). Stel finding in op "above control" als trained de controle met meer dan 0.02 verslaat, anders "not above control".
Een probleem ontdekt in deze les? Meld het · Vraag naar deze les
Deze oefening opent binnenkort
Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.
Deze browser blokkeert cookies voor learn.floati.life, dus lessen die je hier hebt afgerond kunnen niet in de juiste volgorde worden geopend. Sta cookies toe voor deze site en laad de pagina opnieuw.