Direcionando a amostra (classifier-free guidance)
Por que isso importa "Desenhe um 7" funciona por causa de uma linha de aritmética. Todo modelo de texto para imagem usa isso para fazer as imagens seguirem o prompt, e a mesma linha explica por que aumentar demais faz as imagens piorarem.
O modelo de dígitos foi treinado com seu rótulo, e 15% das vezes com o rótulo escondido (um token de "sem rótulo", difflab.NULL). Então uma rede pode prever o ruído das duas formas. Classifier-free guidance (Ho and Salimans, 2022) mistura eles:
eps = (1 + w) eps_with_label - w eps_without_label
A diferença eps_with_label - eps_without_label aponta para "mais como este rótulo". w = 0 é amostragem condicional simples; w maior empurra com mais força. Observe a cena: o mesmo ruído extraído com w = 0, 1, 2 e 4.
Palavras e símbolos nesta lição
- eps
- o ruído de curva de sino que foi adicionado; a rede aprende a prevê-lo
- DDIM
- amostragem pulando entre alguns passos, sem ruído novo
- classifier-free guidance
- (1 + w) x ruído previsto com o rótulo - w x ruído previsto sem ele
Escreva guided(model, x, t, labels, w). Depois preencha table: para w em 0, 1, 2 e 4, a parte de 500 amostras (20 DDIM steps, que a última lição mostrou serem tão boas quanto 100 DDIM steps) que foram lidas como o dígito solicitado, e a proximidade delas. Defina best_w para o w com a melhor (menor) proximidade entre aqueles que atingem pelo menos 0.99 solicitados.
Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição
Este exercício abre em breve
Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.
Este navegador está bloqueando cookies para learn.floati.life, então as lições que você terminou aqui não podem abrir em ordem. Permita cookies para este site e recarregue.