Prueba de paso: tres ejecuciones rotas no vistas (IA apagada)
Por qué importa Diagnosticar tú solo, con un presupuesto, es la habilidad para la que sirve este módulo.
Tutor de IA apagado. Tres ejecuciones, cada una con un fallo de cualquier parte de este módulo. Son ejecuciones nuevas, no los casos de práctica: otras semillas, otro tamaño de lote y fallos de otros tamaños, así que los números que recuerdes de la práctica no van a coincidir. Tu presupuesto es de 9 sondas en total (entrenar un caso sellado cuenta como una), contadas en todas las ejecuciones desde que se abrió la página (repetir una sonda en el mismo caso es gratis; un diagnóstico equivocado o un arreglo que no funciona cuesta una sonda).
Cada caso de abajo es un entrenamiento con un fallo plantado. Para cada uno: gasta sondas para encontrar el fallo, y luego escribe un arreglo como cambios de config. Los fallos de esta lección: any fault from this module. Cuantas menos sondas, mejor; un buen diagnosticador rara vez necesita más de dos por caso.
| Sonda | Lo que te dice |
|---|---|
loss_curve(c) | La pérdida de entrenamiento cada 50 pasos y la exactitud de validación final. Mira siempre esto primero. |
loss_at_init(c) | La pérdida antes de entrenar. Un modelo nuevo de 10 clases debería estar cerca de ln(10) = 2.30. |
overfit_one_batch(c) | ¿Puede memorizar 32 ejemplos? Una configuración sana llega cerca de 0. |
grad_norms(c) | El tamaño del gradiente por matriz de pesos al principio. Cero significa que nada puede aprender. |
update_ratio(c) | El tamaño del paso de SGD simple en relación con el tamaño de los pesos. Lo sano es de unos 0.001 a 0.1 (una regla práctica para SGD simple; el Módulo 14 muestra por qué Adam es distinto). |
act_stats(c) | Las activaciones ocultas: media, valor más grande, proporción de unidades muertas. |
lr_schedule(c) | La tasa de aprendizaje en los pasos 0, 50, 100 y así sucesivamente. |
batch_labels(c) | Las etiquetas de los primeros lotes. |
overlap(c) | Cuántos ejemplos de validación aparecen también en el entrenamiento. |
Palabras y símbolos de esta lección
- sonda
- una medición rápida de una ejecución, como el tamaño de los gradientes o las unidades muertas
Rellena diagnosis (de caso a nombre del fallo) y fixes (de caso a un diccionario de cambios de config) para los casos A, B y C. Un arreglo debe quitar el fallo y entrenar hasta al menos un 90% de exactitud de validación.
IA desactivada: en este no hay tutor, pistas ni solución. Solo tu propio razonamiento.
¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección
Este ejercicio se abre pronto
Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.
Este navegador está bloqueando las cookies de learn.floati.life, así que las lecciones que terminaste aquí no se pueden abrir en orden. Permite las cookies de este sitio y recarga.