Temario Lección 195 de 246 · Módulo 18: Aprender sin etiquetas
Módulo 18: Aprender sin etiquetas

Probar características con un clasificador simple (sondas lineales)

Por qué importa Los vecinos más cercanos dieron una respuesta aproximada. La prueba estándar de las características aprendidas es una sonda lineal: congela las características, entrena encima solo un clasificador lineal con unas pocas etiquetas, y mídelo con fotos nuevas. Si una recta puede separar los objetos, las características hicieron el trabajo difícil.

La sonda es la regresión softmax del Módulo 3, sobre características en vez de píxeles:

  1. Estandariza cada característica con la media y la dispersión del conjunto de entrenamiento (y usa los mismos números con el conjunto de prueba).
  2. Descenso de gradiente sobre la entropía cruzada, con todas las filas de entrenamiento a la vez: 1000 pasos, tamaño de paso 0.5, regularización de pesos 0.001.
  3. Exactitud en las fotos de prueba.

Es débil a propósito: un modelo lineal con 400 etiquetas. Esa es la idea. No puede inventarse buenas características; solo puede leer lo que las características ya dicen.

Palabras y símbolos de esta lección
sonda lineal
un clasificador lineal entrenado sobre características congeladas: una prueba de lo que las características ya dicen
SimCLR
entrenamiento autosupervisado con dos vistas de cada imagen e InfoNCE (Chen et al. 2020)
Tu turno

Escribe my_probe(F_train, y_train, F_test, y_test) como se describe (los pesos y los sesgos empiezan en cero). Luego rellena accuracy para un codificador aleatorio (ssl.Encoder(32, seed=0)) y el codificador SimCLR grabado, con tu sonda. La referencia de píxeles en bruto (768 números por foto) se calcula por ti con la sonda del curso, que hace la misma aritmética en float32 con la multiplicación de matrices rápida: tu versión en float64 tardaría medio minuto con 768 entradas en el navegador.

¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección

Este ejercicio se abre pronto

Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.