Probar características con un clasificador simple (sondas lineales)
Por qué importa Los vecinos más cercanos dieron una respuesta aproximada. La prueba estándar de las características aprendidas es una sonda lineal: congela las características, entrena encima solo un clasificador lineal con unas pocas etiquetas, y mídelo con fotos nuevas. Si una recta puede separar los objetos, las características hicieron el trabajo difícil.
La sonda es la regresión softmax del Módulo 3, sobre características en vez de píxeles:
- Estandariza cada característica con la media y la dispersión del conjunto de entrenamiento (y usa los mismos números con el conjunto de prueba).
- Descenso de gradiente sobre la entropía cruzada, con todas las filas de entrenamiento a la vez: 1000 pasos, tamaño de paso 0.5, regularización de pesos 0.001.
- Exactitud en las fotos de prueba.
Es débil a propósito: un modelo lineal con 400 etiquetas. Esa es la idea. No puede inventarse buenas características; solo puede leer lo que las características ya dicen.
Palabras y símbolos de esta lección
- sonda lineal
- un clasificador lineal entrenado sobre características congeladas: una prueba de lo que las características ya dicen
- SimCLR
- entrenamiento autosupervisado con dos vistas de cada imagen e InfoNCE (Chen et al. 2020)
Escribe my_probe(F_train, y_train, F_test, y_test) como se describe (los pesos y los sesgos empiezan en cero). Luego rellena accuracy para un codificador aleatorio (ssl.Encoder(32, seed=0)) y el codificador SimCLR grabado, con tu sonda. La referencia de píxeles en bruto (768 números por foto) se calcula por ti con la sonda del curso, que hace la misma aritmética en float32 con la multiplicación de matrices rápida: tu versión en float64 tardaría medio minuto con 768 entradas en el navegador.
¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección
Este ejercicio se abre pronto
Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.
Este navegador está bloqueando las cookies de learn.floati.life, así que las lecciones que terminaste aquí no se pueden abrir en orden. Permite las cookies de este sitio y recarga.