Temario Lección 49 de 246 · Módulo 3: De la neurona al MLP
Módulo 3: De la neurona al MLP

Un lector de dígitos en NumPy puro

Por qué importa Esta es una red neuronal real leyendo letra manuscrita real, con cada línea escrita por ti. Es la primera red clásica, construida sin biblioteca.

Los datos son 1,797 dígitos manuscritos, cada uno una imagen de 8 por 8 aplanada en 64 números (un primo pequeño y de baja resolución del famoso conjunto MNIST de 28 por 28, de otra colección). La red es la de la lección anterior: 64 entradas, una capa oculta de 64 neuronas ReLU y 10 salidas.

El bucle de entrenamiento

  1. Empieza con pesos pequeños y aleatorios: rng.normal(0, 0.1, shape), sesgos a cero.
  2. En cada época, baraja los datos de entrenamiento y recórrelos en minilotes de 32.
  3. Para cada minilote, ejecuta forward_backward y da un paso con cada peso en contra de su gradiente.

Minilote: un trocito aleatorio de los datos que se usa para un paso. Es mucho más rápido que usar todos los datos en cada paso, y el ruido hasta ayuda.

Predice la curva: adivina la pérdida de entrenamiento tras la época 1 y tras la época 20 en my_guess.

Resumen Baraja, corta, hacia delante, hacia atrás, paso. Repite.

Palabras y símbolos de esta lección
neurona
w . x + b, y luego una activación
pesos (w, W), sesgo (b)
los números que aprende una neurona; el sesgo desplaza su salida
ReLU
max(0, z): conserva los positivos, pone a cero los negativos
tasa de aprendizaje (lr)
lo grande que es cada paso de entrenamiento
capa oculta
una capa entre la entrada y la salida que construye características nuevas
Tu turno

Usando tu forward_backward, escribe train(X, y, hidden, lr, epochs, seed) que devuelva un diccionario de pesos, y predict(params, X) que devuelva el dígito predicho para cada fila. Rellena my_guess. La prueba oculta mide la exactitud con 397 dígitos con los que nunca entrenaste: llega al menos al 95%. (lr 0.5, 20 épocas y 64 ocultas funcionan).

¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección

Este ejercicio se abre pronto

Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.