Un lector de dígitos en NumPy puro
Por qué importa Esta es una red neuronal real leyendo letra manuscrita real, con cada línea escrita por ti. Es la primera red clásica, construida sin biblioteca.
Los datos son 1,797 dígitos manuscritos, cada uno una imagen de 8 por 8 aplanada en 64 números (un primo pequeño y de baja resolución del famoso conjunto MNIST de 28 por 28, de otra colección). La red es la de la lección anterior: 64 entradas, una capa oculta de 64 neuronas ReLU y 10 salidas.
El bucle de entrenamiento
- Empieza con pesos pequeños y aleatorios:
rng.normal(0, 0.1, shape), sesgos a cero. - En cada época, baraja los datos de entrenamiento y recórrelos en minilotes de 32.
- Para cada minilote, ejecuta
forward_backwardy da un paso con cada peso en contra de su gradiente.
Minilote: un trocito aleatorio de los datos que se usa para un paso. Es mucho más rápido que usar todos los datos en cada paso, y el ruido hasta ayuda.
Predice la curva: adivina la pérdida de entrenamiento tras la época 1 y tras la época 20 en my_guess.
Resumen Baraja, corta, hacia delante, hacia atrás, paso. Repite.
Palabras y símbolos de esta lección
- neurona
- w . x + b, y luego una activación
- pesos (w, W), sesgo (b)
- los números que aprende una neurona; el sesgo desplaza su salida
- ReLU
- max(0, z): conserva los positivos, pone a cero los negativos
- tasa de aprendizaje (lr)
- lo grande que es cada paso de entrenamiento
- capa oculta
- una capa entre la entrada y la salida que construye características nuevas
Usando tu forward_backward, escribe train(X, y, hidden, lr, epochs, seed) que devuelva un diccionario de pesos, y predict(params, X) que devuelva el dígito predicho para cada fila. Rellena my_guess. La prueba oculta mide la exactitud con 397 dígitos con los que nunca entrenaste: llega al menos al 95%. (lr 0.5, 20 épocas y 64 ocultas funcionan).
¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección
Este ejercicio se abre pronto
Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.
Este navegador está bloqueando las cookies de learn.floati.life, así que las lecciones que terminaste aquí no se pueden abrir en orden. Permite las cookies de este sitio y recarga.