Programma Lezione 191 di 246 · Modulo 17: Dentro il rumore, fuori le immagini (diffusione)
Modulo 17: Dentro il rumore, fuori le immagini (diffusione)

Insegnare qualcosa di nuovo a un modello addestrato (fine-tuning)

Perché è importante Nessuno addestra da zero un grande modello di immagini per ottenere uno stile nuovo: fanno il fine-tuning di uno che sa già come funzionano le immagini. Qualche centinaio di passi su dati nuovi può bastare, perché quasi tutto ciò che il modello sa vale ancora.

Il compito nuovo: la scrittura a specchio. Ogni cifra di addestramento è ribaltata da sinistra a destra. Il modello di cifre addestrato non ne ha mai vista una.

difflab.train_digits(steps=..., model=model, data=(pictures, labels)) continua ad addestrare un modello esistente sui tuoi dati.

Come controlli che abbia imparato la scrittura a specchio e non qualcos'altro? Ribalta all'indietro i suoi campioni: se vengono letti come le cifre richieste, disegna cifre a specchio. E i campioni non ribaltati ora dovrebbero quasi sempre non essere letti correttamente, tranne le cifre che allo specchio sembrano uguali (0, 1 e 8 quasi): se quasi tutti vengono ancora letti correttamente, non è cambiato molto.

Parole e simboli di questa lezione
eps
il rumore a campana che è stato aggiunto; la rete impara a prevederlo
DDIM
campionare saltando tra pochi passi, senza rumore nuovo
fine-tuning
continuare ad addestrare un modello addestrato su dati nuovi
Tocca a te

Scrivi mirror(pictures) (righe di 64 pixel, ribaltate da sinistra a destra), fai il fine-tuning del modello sulle cifre di addestramento a specchio per al massimo 400 passi (pochi secondi; 300 bastano), e riempi after con: la quota di 500 campioni (w = 2, 20 passi DDIM) letti come la cifra richiesta una volta ribaltati all'indietro, la quota letta correttamente senza ribaltarli, e la vicinanza dei campioni ribaltati all'indietro.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.