Temario Lección 120 de 246 · Módulo 10: Redes que ven (CNN)
Módulo 10: Redes que ven (CNN)

Redes más profundas, y las ejecuciones grabadas

Por qué importa Apilar más capas debería ayudar, hasta que de repente deja de hacerlo. El curso entrenó este experimento en su propia máquina para que puedas ver las dieciocho ejecuciones en segundos.

El experimento grabado cnn-depth-shortcuts entrenó CNN con 2, 8 y 20 capas de conv (16 canales cada una) con el conjunto de formas, cada una con y sin atajos (sumar la entrada de un bloque a su salida, del Módulo 6), y cada una con tres semillas. Todo lo demás era idéntico: 2,000 imágenes de entrenamiento, 4 épocas, Adam. Reproducirlas es instantáneo porque no se entrena nada; estás leyendo lo que pasó de verdad.

Tres semillas, porque el Módulo 9 tiene razón: una ejecución puede engañar. Mira la dispersión de cada ajuste, no solo su media.

Predice la curva primero: ¿qué ajuste termina con la exactitud de prueba media más alta, y la red normal de 20 capas aprende con todas las semillas?

Ejecución grabada: una ejecución de entrenamiento real que el curso hizo una vez y distribuye, para que las lecciones puedan estudiar ejecuciones demasiado grandes o demasiado numerosas para entrenarlas en directo en cada portátil. Cada salida impresa dice RECORDED.

Palabras y símbolos de esta lección
RECORDED
una ejecución real que el curso entrenó una vez y te da para que la estudies
Tu turno

Pon en my_best la pareja (depth, shortcuts) que crees que termina más alta de media, y my_plain20_reliable a True si crees que la red normal de 20 capas aprende con las tres semillas. Luego usa nnsim.recorded para rellenar final_acc: de (depth, shortcuts) a la lista de las exactitudes de prueba finales de las tres semillas (la semilla 0 primero), pon en mean_acc la media de cada lista, y en best la pareja con la media más alta. exp.seeds(depth=..., shortcuts=...) da las tres ejecuciones de un ajuste. El azar es 0.25 (cuatro formas).

Por último, usa la regla del ruido del Módulo 9 para decir qué ajustes se diferencian de verdad. Con tres semillas cada uno, dos medias se diferencian de verdad solo si la distancia supera más o menos 2 × s × sqrt(2/3), donde s es la mayor de las dispersiones entre semillas de los dos ajustes (np.std de los tres valores). Cualquier cosa más cercana es un empate.

Pon en ties_with_best la lista de cada pareja que empata con best según esa regla, incluida la propia best.

¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección

Este ejercicio se abre pronto

Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.