Moins de pas (DDIM)
Pourquoi c'est important 100 appels au réseau par image, c'est lent, et les vrais modèles en utilisent 1000. DDIM (Song, Meng et Ermon, 2021) saute des pas : il saute de x_t directement à un pas bien antérieur, sans bruit frais, avec le même réseau entraîné. Avec combien peu de pas peux-tu t'en tirer ?
Le modèle de chiffres du cours a été entraîné une fois (difflab.recorded_digit_model()). difflab.sample_digits(model, labels, w=2.0, steps=k) dessine une image par étiquette avec k pas DDIM (steps=None fait les 100 pas DDPM). Le juge du module 15 les note : la proximité au vrai chiffre le plus proche (les vrais chiffres obtiennent 1.04).
Prédis la courbe
Avant de mesurer, devine la proximité à 2, 5, 10, 20 et 100 pas. Les articles et les billets disent souvent que la qualité baisse visiblement en dessous de 50 pas. Mesure-le sur ce modèle.
Mots et symboles de cette leçon
- x0, x_t
- les données propres, et les mêmes données après t pas de bruit
- eps
- le bruit en cloche qui a été ajouté ; le réseau apprend à le prédire
- DDPM
- échantillonner en revenant à travers chaque pas, avec un bruit frais à chaque fois
- DDIM
- échantillonner en sautant entre quelques pas, sans bruit frais
Remplis my_guess (cinq nombres de proximité), puis remplis measured avec la vraie proximité à chaque nombre de pas, et affecte à fewest_good le plus petit nombre de pas dont la proximité est à moins de 0.05 du résultat à 100 pas.
Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon
Cet exercice s'ouvre bientôt
Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.
Ce navigateur bloque les cookies pour learn.floati.life, donc les leçons que tu as terminées ici ne peuvent pas s'ouvrir dans l'ordre. Autorise les cookies pour ce site et recharge la page.