Programma Lezione 100 di 246 · Modulo 8: Clinica degli addestramenti I
Modulo 8: Clinica degli addestramenti I

Fidarsi dell'aiutante?

Perché è importante Gli assistenti IA diagnosticheranno volentieri i tuoi addestramenti. Spesso hanno ragione e a volte sbagliano con sicurezza. L'abilità sta nel sapere quale dei due, usando le prove invece del tono.

Un aiutante IA ha guardato dieci addestramenti rotti e ha nominato un difetto per ciascuno. Circa un terzo delle sue risposte è sbagliato, e suonano esattamente sicure quanto quelle giuste. Per ogni caso, decidi: accetta o rifiuta. Basa ogni decisione su una sonda, non su quanto suona plausibile l'affermazione.

Il tuo punteggio è l'accuratezza dei verdetti: quanto spesso il tuo accetta o rifiuta ha coinciso con la verità. (Non è la calibrazione, che il Modulo 9 definisce: se la sicurezza corrisponde a quanto spesso hai ragione.) Attento alle affermazioni che si adattano ad alcuni sintomi ma non a quello decisivo: una loss bloccata potrebbe essere un learning rate troppo basso, o uno che andava bene e poi è stato abbassato.

SondaChe cosa ti dice
loss_curve(c)La loss di addestramento ogni 50 passi e l'accuratezza di validazione finale. Guarda sempre per prima questa.
loss_at_init(c)La loss prima dell'addestramento. Un modello a 10 classi appena creato dovrebbe essere vicino a ln(10) = 2.30.
overfit_one_batch(c)Riesce a memorizzare 32 esempi? Una configurazione sana arriva vicino a 0.
grad_norms(c)La dimensione del gradiente per ogni matrice di pesi all'inizio. Zero significa che niente può imparare.
update_ratio(c)La dimensione del passo di SGD semplice rispetto alla dimensione dei pesi. Sano è circa da 0.001 a 0.1 (una regola empirica per l'SGD semplice; il Modulo 14 mostra perché Adam è diverso).
act_stats(c)Le attivazioni nascoste: media, valore più grande, quota di unità morte.
lr_schedule(c)Il learning rate ai passi 0, 50, 100 e così via.
batch_labels(c)Le etichette nei primi batch.
overlap(c)Quanti esempi di validazione compaiono anche nell'addestramento.
Parole e simboli di questa lezione
sonda
una misura rapida di un addestramento, come le dimensioni dei gradienti o le unità morte
accuratezza dei verdetti
quanto spesso il tuo accetta o rifiuta di un'affermazione ha coinciso con la verità
Tocca a te

Per ogni caso da A a J, imposta verdicts[case] su True (l'aiutante ha ragione) o False. Te ne servono almeno 9 giusti su 10.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.