Het spel op acht blobs
Waarom dit ertoe doet Afbeeldingen verbergen wat een GAN fout doet. Punten in 2D doen dat niet: je kunt in één keer zien welke delen van de data de generator heeft gevonden en welke hij heeft gemist.
De echte data: 8 strakke blobs op een cirkel. Een goede generator plaatst punten op alle 8 blobs, ongeveer gelijkmatig. De rechter, ganlab.coverage(points), geeft twee getallen: blobs covered (een blob telt wanneer hij meer dan 2% van de punten krijgt) en quality (het aandeel punten dat op een blob landt).
Bekijk de scène: echte blobs, dan waar de punten van een getrainde generator landen, dan een generator die instortte.
Eén trainingsstap heeft twee helften:
- D's beurt. Een batch echte punten (
ganlab.ring(128, rng)) en een batch neppe punten. Neem de neppe punten als gewone getallen (.data) zodat de stap van D niet in G reikt. Loss = BCE(score(real), 1) + BCE(score(fake), 0). Stap D. - G's beurt. Nieuwe ruis, generate, score met D, loss = BCE(score, 1): de niet-verzadigende loss. Stap G. Deze backward pass vulde ook de gradiënten van D; zet ze terug naar
None, anders lekken ze naar de volgende stap van D.
GANs gebruiken Adam met de eerste beta op 0.5 (de standaard Adam neemt b1). De cursus mat waarom: met de standaard 0.9 dekte dezelfde GAN tussen 1 en 7 blobs over 5 seeds, met 0.5 dekte het 7 of 8.
Woorden en symbolen in deze les
- GAN
- generative adversarial network: een generator en een discriminator die tegen elkaar worden getraind
- generator (G)
- het netwerk dat ruis omzet in een sample
- saturating loss
- G minimaliseert log(1 - D(G(z))); zijn helling is ongeveer 0 zodra D zeker is, dus stopt G met leren
- non-saturating loss
- G minimaliseert -log D(G(z)); hetzelfde doel, een volledige push zelfs wanneer D zeker is
- blobs gedekt, kwaliteit
- de ringrechter: blobs met meer dan 2% van de punten, en het aandeel punten op een blob
Schrijf de body van de training loop: 2000 stappen (ongeveer 4 seconden in de browser). Sla de test met ten minste 7 gedekte blobs en een kwaliteit van ten minste 0.5. Schrijf de loop zelf: ganlab.train is hier verboden.
Een probleem ontdekt in deze les? Meld het · Vraag naar deze les
Deze oefening opent binnenkort
Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.
Deze browser blokkeert cookies voor learn.floati.life, dus lessen die je hier hebt afgerond kunnen niet in de juiste volgorde worden geopend. Sta cookies toe voor deze site en laad de pagina opnieuw.