Programma Les 240 van 246 · Module 23: Capstone studio: een model kaart die je kunt draaien
Module 23: Capstone studio: een model kaart die je kunt draaien

Eén bevinding in je model, met een controle

Waarom dit ertoe doet Les van Module 21, toegepast op je eigen model: de score van een probe betekent niets totdat je het vergelijkt met wat dezelfde probe leest van een netwerk dat nooit getraind is.

De probe set voor jouw track stelt één vraag over elke input (meaning): op de taal track, "is het volgende teken een klinker?"; op de afbeeldingen track, "welk object staat op de foto?".

Train je basislijn (seed 0). Lees de hidden layer (studio.hidden_units(model, X)) en train een linear probe op de eerste helft van de probe set, test op de tweede (ssl.probe, 300 stappen). De controle: dezelfde probe op een untrained netwerk van dezelfde vorm en seed (studio.MLP(track.n_in, width, track.n_out, seed=0)). Willekeurige ReLU units zetten inputs al om in veel features, en een probe kan veel daarvan lezen; alleen het deel boven de controle is iets wat training heeft toegevoegd.

Woorden en symbolen in deze les
baseline
de simpele run waar elke verandering tegen wordt gemeten, over dezelfde seeds
Jij bent aan de beurt

Vul trained, control en base_rate in (het aandeel van het meest voorkomende label in de testhelft). Stel finding in op "above control" als trained de controle met meer dan 0.02 verslaat, anders "not above control".

Een probleem ontdekt in deze les? Meld het · Vraag naar deze les

Deze oefening opent binnenkort

Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.