Temario Lección 193 de 246 · Módulo 18: Aprender sin etiquetas
Módulo 18: Aprender sin etiquetas

Ordenar fotos que nadie etiquetó

Por qué importa Las etiquetas son caras: alguien tiene que mirar cada imagen. Las imágenes sin etiquetas casi no cuestan nada. Si una red pudiera aprender características útiles solo con imágenes sin etiquetar, cada modelo podría empezar con millones de ejemplos en vez de miles. Eso es el aprendizaje autosupervisado, y así se preentrenan los grandes modelos de hoy.

Las imágenes de este módulo son fotos diminutas de 16 x 16 de seis tipos de objeto (pelota, caja, anillo, tienda de campaña, cruz, luna) en escenas recargadas: fondos aleatorios, luz desde cualquier lado, sombras, cosas por delante, desenfoque y ruido de sensor. Se generan, no se descargan, y están hechas para comportarse como fotos reales: el curso midió tres estadísticas que comparten todas las fotos naturales (cómo se reduce el detalle con la escala, lo dispersos que son los bordes, lo parecidos que son los píxeles vecinos), y estas fotos quedan dentro del rango de recortes de fotos reales en las tres. photos.stats(X) las imprime.

Una prueba rápida de cualquier conjunto de características: para cada foto, busca sus 5 vecinos más cercanos según esas características y cuenta cuántos muestran el mismo tipo de objeto. Adivinar al azar acierta 1 de cada 6.

Tres tipos de características:

  • los píxeles en bruto;
  • una CNN con pesos aleatorios, nunca entrenada;
  • la misma CNN después de un preentrenamiento SimCLR con 4000 fotos, sin ninguna etiqueta (el curso la entrenó una vez; verás cómo en la lección 5).

Predice primero: ¿cuál pone más juntas las fotos del mismo objeto?

Palabras y símbolos de esta lección
aprendizaje autosupervisado
aprender características de datos sin etiquetas, con una tarea que los propios datos plantean
SimCLR
entrenamiento autosupervisado con dos vistas de cada imagen e InfoNCE (Chen et al. 2020)
Tu turno

Pon en my_guess "raw", "random" o "simclr". Escribe agreement(F, labels, k): estandariza cada característica, escala cada fila a longitud 1, y devuelve la proporción de los k vecinos más cercanos (por similitud coseno; una foto no es vecina de sí misma) que tienen la misma etiqueta. Rellena scores para los tres tipos de características.

¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección

Este ejercicio se abre pronto

Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.