Échec productif : XOR avec un neurone
Pourquoi c'est important Échouer exprès ici t'apprend, mieux que n'importe quelle explication, pourquoi les réseaux ont besoin de plus d'une couche.
XOR (« ou exclusif ») vaut 1 quand exactement une des deux entrées vaut 1. Quatre points : (0,0) vaut 0, (0,1) vaut 1, (1,0) vaut 1, (1,1) vaut 0. Ton travail : faire réussir les quatre à ton neurone logistique de la leçon précédente. Essaie n'importe quel taux d'apprentissage, n'importe quel nombre d'étapes et n'importe quelle graine.
Le neurone part ici de poids aléatoires. Ça compte : parti de zéros partout, sur XOR, son gradient vaut exactement 0 par symétrie (les quatre points tirent également dans des sens opposés), donc il ne bougerait jamais. C'est un échec différent de celui dont parle cette leçon, donc on l'écarte.
Passe quelques minutes à vraiment essayer avant de lire l'indice. Se débattre d'abord, c'est le but : la recherche sur l'apprentissage trouve que les gens qui essaient un problème avant qu'on leur enseigne l'idée la comprennent mieux ensuite.
Mots et symboles de cette leçon
- neurone
- w . x + b, puis une activation
- poids (w, W), biais (b)
- les nombres qu'un neurone apprend ; le biais décale sa sortie
- sigmoïde
- 1 / (1 + exp(-z)) : écrase n'importe quel nombre entre 0 et 1
- taux d'apprentissage (lr)
- la taille de chaque pas d'entraînement
Utilise train_logistic(X, y, lr, steps, seed) sur XOR avec au moins trois réglages différents, et mets la justesse de chaque résultat dans my_attempts. Puis affecte à reason la lettre de la vraie explication :
A : il faut plus d'étapes. B : un seul neurone ne peut couper le plan qu'avec une seule ligne droite, et aucune ligne droite ne sépare XOR. C : le taux d'apprentissage est faux. D : quatre points, c'est trop peu pour apprendre.
Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon
Cet exercice s'ouvre bientôt
Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.
Ce navigateur bloque les cookies pour learn.floati.life, donc les leçons que tu as terminées ici ne peuvent pas s'ouvrir dans l'ordre. Autorise les cookies pour ce site et recharge la page.