Conteúdo do curso Lição 194 de 246 · Módulo 18: Aprendizado sem rótulos
Módulo 18: Aprendizado sem rótulos

Preencha a lacuna (predição mascarada)

Por que isso importa A maneira mais simples de criar uma tarefa a partir de dados não rotulados: esconder parte dele e pedir para a rede preencher. Modelos de linguagem são treinados exatamente assim (esconder a próxima palavra); modelos de imagem escondem patches. Para preencher um buraco bem, uma rede tem que entender o que está ao redor dele.

Esconda um patch 4 x 4 no meio de cada foto. A rede vê a janela 8 x 8 ao redor dele (os outros 48 pixels, x 3 cores) e prevê os 16 ocultos (x 3). A loss é o mean squared error. Sem labels em lugar nenhum: a foto é sua própria resposta selada.

Dois preenchimentos simples para vencer: a cor média da foto (erro de cerca de 0.035) e a média dos pixels logo ao redor do buraco (cerca de 0.019). Uma rede que vence a segunda aprendeu algo sobre como formas e luz continuam.

Palavras e símbolos nesta lição
previsão mascarada
esconder parte da entrada e treinar a rede para preenchê-la
Sua vez

Escreva o corpo do loop de treino (400 passos de 64 fotos). Para passar, o erro de validação precisa ficar abaixo de 0.017.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.