Conteúdo do curso Lição 191 de 246 · Módulo 17: Ruído entra, imagens saem (difusão)
Módulo 17: Ruído entra, imagens saem (difusão)

Ensinando algo novo a um modelo treinado (fine-tuning)

Por que isso importa Ninguém treina um modelo de imagem grande do zero para conseguir um novo estilo: eles fine-tune um que já sabe como as imagens funcionam. Alguns centenas de steps em novos dados podem ser suficientes, porque a maior parte do que o modelo sabe ainda se aplica.

A nova tarefa: escrita espelhada. Cada dígito de treinamento é invertido da esquerda para a direita. O modelo de dígito treinado nunca viu um.

difflab.train_digits(steps=..., model=model, data=(pictures, labels)) continua treinando um modelo existente nos seus dados.

Como você verifica se ele aprendeu a escrita espelhada e não outra coisa? Inverta as amostras dele de volta: se elas forem lidas como os dígitos solicitados, ele desenha dígitos espelhados. E as amostras não invertidas devem agora falhar na maioria das vezes ao serem lidas corretamente, exceto para dígitos que parecem iguais em um espelho (0, 1 e 8 quase fazem): se a maioria ainda for lida corretamente, ele não mudou muito.

Palavras e símbolos nesta lição
eps
o ruído de curva de sino que foi adicionado; a rede aprende a prevê-lo
DDIM
amostragem pulando entre alguns passos, sem ruído novo
fine-tuning
continuar treinando um modelo treinado em novos dados
Sua vez

Escreva mirror(pictures) (linhas de 64 pixels, invertidas da esquerda para a direita), faça o fine-tuning do modelo em dígitos de treinamento espelhados por no máximo 400 steps (alguns segundos; 300 é suficiente), e preencha after com: a parte de 500 amostras (w = 2, 20 DDIM steps) que foram lidas como o dígito solicitado quando invertidas de volta, a parte que foi lida corretamente sem inverter, e a proximidade das amostras invertidas de volta.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.