Programme Leçon 191 sur 246 · Module 17 : Du bruit en entrée, des images en sortie (diffusion)
Module 17 : Du bruit en entrée, des images en sortie (diffusion)

Apprendre quelque chose de nouveau à un modèle entraîné (fine-tuning)

Pourquoi c'est important Personne n'entraîne un grand modèle d'images à partir de zéro pour obtenir un nouveau style : on affine un modèle qui sait déjà comment marchent les images. Quelques centaines de pas sur de nouvelles données peuvent suffire, parce que la plupart de ce que le modèle sait s'applique encore.

La nouvelle tâche : l'écriture en miroir. Chaque chiffre d'entraînement est retourné de gauche à droite. Le modèle de chiffres entraîné n'en a jamais vu un.

difflab.train_digits(steps=..., model=model, data=(pictures, labels)) continue d'entraîner un modèle existant sur tes données.

Comment vérifier qu'il a appris l'écriture en miroir et pas autre chose ? Retourne ses échantillons : s'ils se lisent comme les chiffres demandés, il dessine des chiffres en miroir. Et les échantillons non retournés doivent maintenant surtout échouer à se lire correctement, sauf les chiffres qui ont le même aspect dans un miroir (0, 1 et 8 presque) : si la plupart se lisent encore correctement, il n'a pas beaucoup changé.

Mots et symboles de cette leçon
eps
le bruit en cloche qui a été ajouté ; le réseau apprend à le prédire
DDIM
échantillonner en sautant entre quelques pas, sans bruit frais
fine-tuning
continuer à entraîner un modèle entraîné sur de nouvelles données
À ton tour

Écris mirror(pictures) (des lignes de 64 pixels, retournées de gauche à droite), affine le modèle sur des chiffres d'entraînement en miroir pendant au plus 400 pas (quelques secondes ; 300 suffisent), et remplis after avec : la part de 500 échantillons (w = 2, 20 pas DDIM) qui se lisent comme le chiffre demandé une fois retournés, la part qui se lit correctement sans retournement, et la proximité des échantillons retournés.

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.