Conteúdo do curso Lição 190 de 246 · Módulo 17: Ruído entra, imagens saem (difusão)
Módulo 17: Ruído entra, imagens saem (difusão)

Direcionando a amostra (classifier-free guidance)

Por que isso importa "Desenhe um 7" funciona por causa de uma linha de aritmética. Todo modelo de texto para imagem usa isso para fazer as imagens seguirem o prompt, e a mesma linha explica por que aumentar demais faz as imagens piorarem.

O modelo de dígitos foi treinado com seu rótulo, e 15% das vezes com o rótulo escondido (um token de "sem rótulo", difflab.NULL). Então uma rede pode prever o ruído das duas formas. Classifier-free guidance (Ho and Salimans, 2022) mistura eles:

eps = (1 + w) eps_with_label - w eps_without_label

A diferença eps_with_label - eps_without_label aponta para "mais como este rótulo". w = 0 é amostragem condicional simples; w maior empurra com mais força. Observe a cena: o mesmo ruído extraído com w = 0, 1, 2 e 4.

Palavras e símbolos nesta lição
eps
o ruído de curva de sino que foi adicionado; a rede aprende a prevê-lo
DDIM
amostragem pulando entre alguns passos, sem ruído novo
classifier-free guidance
(1 + w) x ruído previsto com o rótulo - w x ruído previsto sem ele
Sua vez

Escreva guided(model, x, t, labels, w). Depois preencha table: para w em 0, 1, 2 e 4, a parte de 500 amostras (20 DDIM steps, que a última lição mostrou serem tão boas quanto 100 DDIM steps) que foram lidas como o dígito solicitado, e a proximidade delas. Defina best_w para o w com a melhor (menor) proximidade entre aqueles que atingem pelo menos 0.99 solicitados.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.