Programme Leçon 177 sur 246 · Module 16 : Deux réseaux qui jouent (GAN, facultatif)
Module 16 : Deux réseaux qui jouent (GAN, facultatif)

Le jeu sur huit taches

Pourquoi c'est important Les images cachent ce qu'un GAN fait de travers. Des points en 2D, non : tu vois tout de suite quelles parties des données le générateur a trouvées et lesquelles il a ratées.

Les vraies données : 8 taches serrées sur un cercle. Un bon générateur met des points sur les 8 taches, à peu près également. Le juge, ganlab.coverage(points), donne deux nombres : les taches couvertes (une tache compte quand elle reçoit plus de 2 % des points) et la qualité (la part des points qui tombent sur une tache).

Regarde la scène : les vraies taches, puis où tombent les points d'un générateur entraîné, puis un générateur qui s'est effondré.

Une étape d'entraînement a deux moitiés :

  1. Le tour de D. Un lot de vrais points (ganlab.ring(128, rng)) et un lot de faux. Prends les faux comme de simples nombres (.data) pour que le pas de D ne remonte pas dans G. Perte = BCE(score(real), 1) + BCE(score(fake), 0). Fais un pas pour D.
  2. Le tour de G. Un nouveau bruit, génère, note avec D, perte = BCE(score, 1) : la perte non saturante. Fais un pas pour G. Cette passe arrière a aussi rempli les gradients de D ; remets-les à None, sinon ils fuient dans le pas suivant de D.

Les GAN utilisent Adam avec son premier beta à 0.5 (l'Adam du cours prend b1). Le cours a mesuré pourquoi : avec la valeur par défaut 0.9, le même GAN couvrait entre 1 et 7 taches sur 5 graines, avec 0.5 il en couvrait 7 ou 8.

Mots et symboles de cette leçon
GAN
réseau antagoniste génératif : un générateur et un discriminateur entraînés l'un contre l'autre
générateur (G)
le réseau qui transforme du bruit en échantillon
perte saturante
G minimise log(1 - D(G(z))) ; sa pente vaut environ 0 une fois que D est sûr, donc G cesse d'apprendre
perte non saturante
G minimise -log D(G(z)) ; le même but, une poussée complète même quand D est sûr
taches couvertes, qualité
le juge de l'anneau : les taches avec plus de 2 % des points, et la part des points sur une tache
À ton tour

Écris le corps de la boucle d'entraînement : 2000 pas (environ 4 secondes dans le navigateur). Tu réussis avec au moins 7 taches couvertes et une qualité d'au moins 0.5. Écris la boucle toi-même : ganlab.train est interdit ici.

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.