Conteúdo do curso Lição 193 de 246 · Módulo 18: Aprendizado sem rótulos
Módulo 18: Aprendizado sem rótulos

Ordenando fotos que ninguém rotulou

Por que isso importa Rótulos são caros: alguém precisa olhar cada imagem. Imagens sem rótulos são quase de graça. Se uma rede pudesse aprender características úteis apenas de imagens não rotuladas, cada modelo poderia começar com milhões de exemplos em vez de milhares. Isso é self-supervised learning, e é como os grandes modelos de hoje são pré-treinados.

As imagens neste módulo são fotos minúsculas de 16 x 16 de seis tipos de objeto (ball, box, ring, tent, cross, moon) em cenas bagunçadas: fundos aleatórios, luz de qualquer lado, sombras, coisas na frente, desfoque e ruído de sensor. Elas são geradas, não baixadas, e feitas para se comportar como fotos reais: o curso mediu três estatísticas que toda foto natural compartilha (como o detalhe diminui com a escala, quão esparsas são as bordas, quão parecidos são os pixels vizinhos), e estas fotos estão dentro do intervalo de recortes de fotos reais em todas as três. photos.stats(X) as imprime.

Um teste rápido de qualquer conjunto de características: para cada foto, encontre seus 5 vizinhos mais próximos por essas características e conte quantos mostram o mesmo tipo de objeto. O chute aleatório acerta 1 em 6.

Três tipos de características:

  • os pixels brutos;
  • a CNN com pesos aleatórios, nunca treinada;
  • a mesma CNN após o SimCLR pré-treinamento em 4000 fotos, com nenhuma etiqueta nenhuma (o curso treinou uma vez; você verá como na lição 5).

Preveja primeiro: qual coloca fotos do mesmo objeto mais próximas?

Palavras e símbolos nesta lição
aprendizado auto-supervisionado
aprendendo características de dados sem rótulos, por uma tarefa os dados se definem
SimCLR
treinamento auto-supervisionado com duas visões de cada imagem e InfoNCE (Chen et al. 2020)
Sua vez

Defina my_guess como "raw", "random" ou "simclr". Escreva agreement(F, labels, k): padronize cada feature, escale cada linha para comprimento 1 e retorne a parte dos k vizinhos mais próximos (por similaridade de cosseno, uma foto não é seu próprio vizinho) que têm o mesmo label. Preencha scores para os três tipos de features.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.