Temario Lección 85 de 246 · Módulo 6: Pesos iniciales y normalización
Módulo 6: Pesos iniciales y normalización

Prueba de paso: haz que entrene una red profunda que no se puede entrenar (IA apagada)

Por qué importa Arreglar una red profunda que no quiere aprender es uno de los trabajos reales más comunes en este campo. Aquí lo haces tú solo.

Tutor de IA apagado. La red de 30 capas de abajo nunca sale de tirar una moneda. Puedes cambiar cómo empieza y cómo están conectados sus bloques, con cualquier cosa de este módulo, pero mantén 30 capas ocultas de anchura 16 y 300 pasos de SGD simple.

Palabras y símbolos de esta lección
Xavier, LeCun, He
dispersiones iniciales sqrt(2 / (entradas + salidas)) o 1 / sqrt(entradas) para tanh, y sqrt(2 / entradas) para ReLU
Tu turno

Edita build(rng) y forward(params, X) para que el entrenamiento llegue al menos al 90% de exactitud en entrenamiento con las lunas.

IA desactivada: en este no hay tutor, pistas ni solución. Solo tu propio razonamiento.

¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección

Este ejercicio se abre pronto

Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.