Cancello: chiudi lo scarto senza underfitting (IA spenta)
Perché è importante Chiudere uno scarto tra addestramento e validazione è facile se ti è permesso rendere inutile il modello. Farlo mantenendo il modello buono è la vera abilità. Conosci già questo modulo? Puoi affrontare questo cancello per primo, prima delle altre lezioni: superarlo segna questo modulo come fatto e apre il successivo.
Tutor IA spento. Un polinomio di grado 14 su 25 punti va molto in overfitting. Devi tenere il grado 14 e usare il weight decay (ridge, dalla lezione su bias e varianza), scegliendone la forza con il set di validazione.
Siccome scegli alpha guardando il set di validazione, ora l'errore di validazione è un po' lusinghiero. Quindi il cancello ti valuta su un set di test separato di 2,000 punti nuovi che il tuo codice non vede mai. È il modo onesto di riportare un modello che hai regolato.
Parole e simboli di questa lezione
- overfitting, underfitting
- adattarsi al rumore dei dati di addestramento; oppure essere troppo semplici per adattarsi allo schema
- set di validazione
- dati tenuti da parte usati per scegliere le impostazioni
- bias, varianza
- sbagliare ogni volta nello stesso modo; oppure cambiare molto con i dati di addestramento
- ridge (alpha)
- minimi quadrati con un weight decay di forza alpha
Scrivi fit(x, y) che restituisce i coefficienti (dalla potenza più bassa) per un polinomio di grado 14. Deve essere una soluzione ridge, solve(A.T A + alpha I, A.T y) per un certo alpha sopra 0 (il test lo controlla, quindi un polinomio più piccolo riempito di zeri non conta). Passi se l'errore sul set di test nascosto è sotto 0.045 e lo scarto (test meno addestramento) è sotto 0.05. Per avere una scala: i semplici minimi quadrati hanno un errore di test di circa 0.73, il miglior alpha possibile un errore di test di circa 0.034, e un alpha scelto con onestà sul set di validazione, su qualsiasi griglia sensata come le potenze di 10, un errore di test tra circa 0.034 e 0.039. Un adattamento piatto e troppo ristretto non rispetta il limite di 0.045.
IA spenta: niente tutor, suggerimenti o soluzione svolta per questo. Solo il tuo ragionamento.
Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione
I tuoi progressi vengono contati in forma anonima. Cambia
Questo esercizio si apre presto
Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.
Questo browser blocca i cookie per learn.floati.life, quindi le lezioni che hai finito qui non si possono aprire in ordine. Consenti i cookie per questo sito e ricarica.