Temario Lección 133 de 246 · Módulo 11: Redes con memoria (RNN)
Módulo 11: Redes con memoria (RNN)

Prueba de paso: una RNN rota con dos fallos (IA apagada)

Por qué importa Encontrar dos fallos a la vez, sin ayuda, es para lo que te han estado entrenando las clínicas.

Tutor de IA apagado. Esta RNN de caracteres tiene dos fallos. Uno impide que la pérdida baje mucho, aunque cada pérdida sigue siendo un número finito (nada explota). El otro hace que la red nunca use de verdad lo que leyó antes en el fragmento. Encuentra y arregla los dos.

Palabras y símbolos de esta lección
red recurrente (RNN)
una red que lee un paso cada vez y lleva hacia delante un estado oculto
entropía
lo repartida que está una distribución: 0 cuando hay certeza, ln(n) cuando las n opciones son iguales
Tu turno

Arregla init y run_snippet. Tras 200 pasos, la pérdida media de los últimos 20 pasos debe estar por debajo de 2.45, cada pérdida debe ser un número finito, y el primer carácter de un fragmento todavía debe afectar a la última predicción.

IA desactivada: en este no hay tutor, pistas ni solución. Solo tu propio razonamiento.

¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección

Este ejercicio se abre pronto

Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.