¿Fiarse del ayudante?
Por qué importa Los asistentes de IA diagnostican encantados tus entrenamientos. A menudo aciertan y a veces se equivocan con total seguridad. La habilidad es saber cuándo es cada cosa, usando pruebas en vez del tono.
Un ayudante de IA ha mirado diez ejecuciones rotas y ha nombrado un fallo para cada una. Más o menos un tercio de sus respuestas están mal, y suenan exactamente igual de seguras que las buenas. Para cada caso, decide: aceptar o rechazar. Basa cada decisión en una sonda, no en lo creíble que suena la afirmación.
Tu puntuación es la exactitud de los veredictos: cuántas veces tu aceptar o rechazar coincidió con la verdad. (Esto no es la calibración, que define el Módulo 9: si la confianza coincide con lo a menudo que aciertas). Cuidado con las afirmaciones que encajan con algunos síntomas pero no con el decisivo: una pérdida atascada podría ser una tasa de aprendizaje demasiado baja, o una que estaba bien y luego bajó.
| Sonda | Lo que te dice |
|---|---|
loss_curve(c) | La pérdida de entrenamiento cada 50 pasos y la exactitud de validación final. Mira siempre esto primero. |
loss_at_init(c) | La pérdida antes de entrenar. Un modelo nuevo de 10 clases debería estar cerca de ln(10) = 2.30. |
overfit_one_batch(c) | ¿Puede memorizar 32 ejemplos? Una configuración sana llega cerca de 0. |
grad_norms(c) | El tamaño del gradiente por matriz de pesos al principio. Cero significa que nada puede aprender. |
update_ratio(c) | El tamaño del paso de SGD simple en relación con el tamaño de los pesos. Lo sano es de unos 0.001 a 0.1 (una regla práctica para SGD simple; el Módulo 14 muestra por qué Adam es distinto). |
act_stats(c) | Las activaciones ocultas: media, valor más grande, proporción de unidades muertas. |
lr_schedule(c) | La tasa de aprendizaje en los pasos 0, 50, 100 y así sucesivamente. |
batch_labels(c) | Las etiquetas de los primeros lotes. |
overlap(c) | Cuántos ejemplos de validación aparecen también en el entrenamiento. |
Palabras y símbolos de esta lección
- sonda
- una medición rápida de una ejecución, como el tamaño de los gradientes o las unidades muertas
- exactitud de los veredictos
- cuántas veces tu aceptar o rechazar una afirmación coincidió con la verdad
Para cada caso de la A a la J, pon verdicts[case] a True (el ayudante tiene razón) o False. Necesitas acertar al menos 9 de 10.
¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección
Este ejercicio se abre pronto
Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.
Este navegador está bloqueando las cookies de learn.floati.life, así que las lecciones que terminaste aquí no se pueden abrir en orden. Permite las cookies de este sitio y recarga.