Programma Les 93 van 246 · Module 7: Werken met nieuwe data
Module 7: Werken met nieuwe data

Gate: sluit de kloof zonder underfitting (AI uit)

Waarom dit ertoe doet Het dichten van een trein/validatie-gat is makkelijk als je het model waardeloos mag maken. Het doen terwijl het model goed blijft is de echte vaardigheid. Ken je dit module al? Je kunt deze poort eerst nemen, voor de andere lessen: het passeren markeert deze module als klaar en opent de volgende.

AI uit. Een polynoom van graad 14 op 25 punten past slecht. Je moet graad 14 behouden en weight decay gebruiken (ridge, uit de les over bias en variantie), waarbij je de sterkte kiest met de validatieset.

Omdat je alpha kiest door naar de validatieset te kijken, is de validatiefout nu een beetje flatterend. De gate beoordeelt je op een aparte testset van 2.000 nieuwe punten die je code nooit ziet. Dat is de eerlijke manier om een model te rapporteren dat je hebt afgestemd.

Woorden en symbolen in deze les
overfitting, underfitting
het ruis in de trainingsdata aanpassen; of te simpel om het patroon aan te passen
validatieset
vastgehouden data gebruikt om instellingen te kiezen
bias, variantie
elke keer op dezelfde manier fout zijn; of veel veranderen met de trainingsdata
ridge (alpha)
minste kwadraten met weight decay van sterkte alpha
Jij bent aan de beurt

Schrijf fit(x, y) die coëfficiënten teruggeeft (laagste macht eerst) voor een polynoom van graad 14. Het moet een ridge oplossing zijn, solve(A.T A + alpha I, A.T y) voor een alpha boven 0 (de test controleert dit, dus een kleiner polynoom aangevuld met nullen telt niet). Slaag als de fout op de verborgen testset onder 0.045 is en de gap (test min training) onder 0.05 is. Voor de schaal: gewone least squares heeft een testfout van ongeveer 0.73, de beste mogelijke alpha een testfout van ongeveer 0.034, en een eerlijk gekozen alpha op de validatieset, op elke logische grid zoals machten van 10, een testfout van ongeveer 0.034 tot 0.039. Een vlakke, te veel ingekrompen fit faalt voor de 0.045 limiet.

AI uit: geen tutor, hints of uitgewerkte oplossing voor deze. Alleen je eigen denkwerk.

Een probleem ontdekt in deze les? Meld het · Vraag naar deze les

Code · draait in je browser
Uitvoer

        

Je voortgang wordt anoniem geteld. Verander dit