Programma Lezione 93 di 246 · Modulo 7: Lavorare su dati nuovi
Modulo 7: Lavorare su dati nuovi

Cancello: chiudi lo scarto senza underfitting (IA spenta)

Perché è importante Chiudere uno scarto tra addestramento e validazione è facile se ti è permesso rendere inutile il modello. Farlo mantenendo il modello buono è la vera abilità. Conosci già questo modulo? Puoi affrontare questo cancello per primo, prima delle altre lezioni: superarlo segna questo modulo come fatto e apre il successivo.

Tutor IA spento. Un polinomio di grado 14 su 25 punti va molto in overfitting. Devi tenere il grado 14 e usare il weight decay (ridge, dalla lezione su bias e varianza), scegliendone la forza con il set di validazione.

Siccome scegli alpha guardando il set di validazione, ora l'errore di validazione è un po' lusinghiero. Quindi il cancello ti valuta su un set di test separato di 2,000 punti nuovi che il tuo codice non vede mai. È il modo onesto di riportare un modello che hai regolato.

Parole e simboli di questa lezione
overfitting, underfitting
adattarsi al rumore dei dati di addestramento; oppure essere troppo semplici per adattarsi allo schema
set di validazione
dati tenuti da parte usati per scegliere le impostazioni
bias, varianza
sbagliare ogni volta nello stesso modo; oppure cambiare molto con i dati di addestramento
ridge (alpha)
minimi quadrati con un weight decay di forza alpha
Tocca a te

Scrivi fit(x, y) che restituisce i coefficienti (dalla potenza più bassa) per un polinomio di grado 14. Deve essere una soluzione ridge, solve(A.T A + alpha I, A.T y) per un certo alpha sopra 0 (il test lo controlla, quindi un polinomio più piccolo riempito di zeri non conta). Passi se l'errore sul set di test nascosto è sotto 0.045 e lo scarto (test meno addestramento) è sotto 0.05. Per avere una scala: i semplici minimi quadrati hanno un errore di test di circa 0.73, il miglior alpha possibile un errore di test di circa 0.034, e un alpha scelto con onestà sul set di validazione, su qualsiasi griglia sensata come le potenze di 10, un errore di test tra circa 0.034 e 0.039. Un adattamento piatto e troppo ristretto non rispetta il limite di 0.045.

IA spenta: niente tutor, suggerimenti o soluzione svolta per questo. Solo il tuo ragionamento.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Codice · gira nel tuo browser
Uscita

        

I tuoi progressi vengono contati in forma anonima. Cambia