Minder stappen (DDIM)
Waarom dit ertoe doet 100 netwerkaanroepen per plaatje is traag, en echte modellen gebruiken er 1000. DDIM (Song, Meng en Ermon, 2021) slaat stappen over: het springt van x_t meteen naar een veel eerdere stap, zonder nieuwe ruis, met hetzelfde getrainde netwerk. Met hoe weinig stappen kom je weg?
Het cijfermodel van de cursus is één keer getraind (difflab.recorded_digit_model()). difflab.sample_digits(model, labels, w=2.0, steps=k) tekent één plaatje per label met k DDIM-stappen (steps=None draait alle 100 DDPM-stappen). De rechter uit Module 15 scoort ze: de nabijheid tot het dichtstbijzijnde echte cijfer (echte cijfers 1.04).
Voorspel de curve
Raad vóór het meten de nabijheid bij 2, 5, 10, 20 en 100 stappen. Artikelen en blogposts zeggen vaak dat de kwaliteit zichtbaar daalt onder de 50 stappen. Meet het op dit model.
Woorden en symbolen in deze les
- x0, x_t
- de schone data, en dezelfde data na t stappen ruis
- eps
- de klokvormige ruis die is toegevoegd; het netwerk leert die te voorspellen
- DDPM
- samplen door terug te stappen door elke stap, met telkens nieuwe ruis
- DDIM
- samplen door tussen een paar stappen te springen, zonder nieuwe ruis
Vul my_guess (vijf nabijheidscijfers) in, vul daarna measured in met de echte nabijheid bij elke stapcount, en stel fewest_good in op het kleinste aantal stappen waarvan de nabijheid binnen 0.05 van het resultaat van 100 stappen ligt.
Een probleem ontdekt in deze les? Meld het · Vraag naar deze les
Deze oefening opent binnenkort
Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.
Deze browser blokkeert cookies voor learn.floati.life, dus lessen die je hier hebt afgerond kunnen niet in de juiste volgorde worden geopend. Sta cookies toe voor deze site en laad de pagina opnieuw.