Programme Leçon 42 sur 246 · Module 3 : Du neurone au MLP
Module 3 : Du neurone au MLP

Échec productif : XOR avec un neurone

Pourquoi c'est important Échouer exprès ici t'apprend, mieux que n'importe quelle explication, pourquoi les réseaux ont besoin de plus d'une couche.

XOR (« ou exclusif ») vaut 1 quand exactement une des deux entrées vaut 1. Quatre points : (0,0) vaut 0, (0,1) vaut 1, (1,0) vaut 1, (1,1) vaut 0. Ton travail : faire réussir les quatre à ton neurone logistique de la leçon précédente. Essaie n'importe quel taux d'apprentissage, n'importe quel nombre d'étapes et n'importe quelle graine.

Le neurone part ici de poids aléatoires. Ça compte : parti de zéros partout, sur XOR, son gradient vaut exactement 0 par symétrie (les quatre points tirent également dans des sens opposés), donc il ne bougerait jamais. C'est un échec différent de celui dont parle cette leçon, donc on l'écarte.

Passe quelques minutes à vraiment essayer avant de lire l'indice. Se débattre d'abord, c'est le but : la recherche sur l'apprentissage trouve que les gens qui essaient un problème avant qu'on leur enseigne l'idée la comprennent mieux ensuite.

Mots et symboles de cette leçon
neurone
w . x + b, puis une activation
poids (w, W), biais (b)
les nombres qu'un neurone apprend ; le biais décale sa sortie
sigmoïde
1 / (1 + exp(-z)) : écrase n'importe quel nombre entre 0 et 1
taux d'apprentissage (lr)
la taille de chaque pas d'entraînement
À ton tour

Utilise train_logistic(X, y, lr, steps, seed) sur XOR avec au moins trois réglages différents, et mets la justesse de chaque résultat dans my_attempts. Puis affecte à reason la lettre de la vraie explication :

A : il faut plus d'étapes. B : un seul neurone ne peut couper le plan qu'avec une seule ligne droite, et aucune ligne droite ne sépare XOR. C : le taux d'apprentissage est faux. D : quatre points, c'est trop peu pour apprendre.

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.