Insegnare qualcosa di nuovo a un modello addestrato (fine-tuning)
Perché è importante Nessuno addestra da zero un grande modello di immagini per ottenere uno stile nuovo: fanno il fine-tuning di uno che sa già come funzionano le immagini. Qualche centinaio di passi su dati nuovi può bastare, perché quasi tutto ciò che il modello sa vale ancora.
Il compito nuovo: la scrittura a specchio. Ogni cifra di addestramento è ribaltata da sinistra a destra. Il modello di cifre addestrato non ne ha mai vista una.
difflab.train_digits(steps=..., model=model, data=(pictures, labels)) continua ad addestrare un modello esistente sui tuoi dati.
Come controlli che abbia imparato la scrittura a specchio e non qualcos'altro? Ribalta all'indietro i suoi campioni: se vengono letti come le cifre richieste, disegna cifre a specchio. E i campioni non ribaltati ora dovrebbero quasi sempre non essere letti correttamente, tranne le cifre che allo specchio sembrano uguali (0, 1 e 8 quasi): se quasi tutti vengono ancora letti correttamente, non è cambiato molto.
Parole e simboli di questa lezione
- eps
- il rumore a campana che è stato aggiunto; la rete impara a prevederlo
- DDIM
- campionare saltando tra pochi passi, senza rumore nuovo
- fine-tuning
- continuare ad addestrare un modello addestrato su dati nuovi
Scrivi mirror(pictures) (righe di 64 pixel, ribaltate da sinistra a destra), fai il fine-tuning del modello sulle cifre di addestramento a specchio per al massimo 400 passi (pochi secondi; 300 bastano), e riempi after con: la quota di 500 campioni (w = 2, 20 passi DDIM) letti come la cifra richiesta una volta ribaltati all'indietro, la quota letta correttamente senza ribaltarli, e la vicinanza dei campioni ribaltati all'indietro.
Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione
Questo esercizio si apre presto
Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.
Questo browser blocca i cookie per learn.floati.life, quindi le lezioni che hai finito qui non si possono aprire in ordine. Consenti i cookie per questo sito e ricarica.