Programma Les 189 van 246 · Module 17: Ruis erin, plaatjes eruit (diffusie)
Module 17: Ruis erin, plaatjes eruit (diffusie)

Minder stappen (DDIM)

Waarom dit ertoe doet 100 netwerkaanroepen per plaatje is traag, en echte modellen gebruiken er 1000. DDIM (Song, Meng en Ermon, 2021) slaat stappen over: het springt van x_t meteen naar een veel eerdere stap, zonder nieuwe ruis, met hetzelfde getrainde netwerk. Met hoe weinig stappen kom je weg?

Het cijfermodel van de cursus is één keer getraind (difflab.recorded_digit_model()). difflab.sample_digits(model, labels, w=2.0, steps=k) tekent één plaatje per label met k DDIM-stappen (steps=None draait alle 100 DDPM-stappen). De rechter uit Module 15 scoort ze: de nabijheid tot het dichtstbijzijnde echte cijfer (echte cijfers 1.04).

Voorspel de curve

Raad vóór het meten de nabijheid bij 2, 5, 10, 20 en 100 stappen. Artikelen en blogposts zeggen vaak dat de kwaliteit zichtbaar daalt onder de 50 stappen. Meet het op dit model.

Woorden en symbolen in deze les
x0, x_t
de schone data, en dezelfde data na t stappen ruis
eps
de klokvormige ruis die is toegevoegd; het netwerk leert die te voorspellen
DDPM
samplen door terug te stappen door elke stap, met telkens nieuwe ruis
DDIM
samplen door tussen een paar stappen te springen, zonder nieuwe ruis
Jij bent aan de beurt

Vul my_guess (vijf nabijheidscijfers) in, vul daarna measured in met de echte nabijheid bij elke stapcount, en stel fewest_good in op het kleinste aantal stappen waarvan de nabijheid binnen 0.05 van het resultaat van 100 stappen ligt.

Een probleem ontdekt in deze les? Meld het · Vraag naar deze les

Deze oefening opent binnenkort

Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.