Programme Leçon 41 sur 246 · Module 3 : Du neurone au MLP
Module 3 : Du neurone au MLP

Des réponses oui ou non (régression logistique)

Pourquoi c'est important La plupart des tâches demandent une catégorie, pas un nombre : spam ou pas, chat ou chien. Un neurone plus une fonction d'écrasement répond oui ou non avec une probabilité.

Vois-le

La sigmoïde écrase n'importe quel nombre dans l'intervalle de 0 à 1 : sigmoid(z) = 1 / (1 + exp(-z)). sigmoid(0) = 0.5, sigmoid(3) vaut environ 0.95, sigmoid(-3) environ 0.05. Lis la sortie comme « la probabilité que la réponse soit oui ».

La perte est l'entropie croisée du module 2 avec deux classes : -mean(y log p + (1 - y) log(1 - p)). Son gradient sort d'une simplicité magnifique : grad_w = X.T @ (p - y) / n. Encore une fois prédiction moins vérité.

Régression logistique : un neurone avec une sigmoïde, entraîné avec l'entropie croisée. Il trace une frontière droite entre deux classes.

Récap Note, écrase en probabilité, entraîne sur (p - y).

Mots et symboles de cette leçon
neurone
w . x + b, puis une activation
sigmoïde
1 / (1 + exp(-z)) : écrase n'importe quel nombre entre 0 et 1
taux d'apprentissage (lr)
la taille de chaque pas d'entraînement
À ton tour

Écris sigmoid(z) et train_logistic(X, y, lr, steps) qui renvoie (w, b), en partant de zéros. Puis accuracy(X, y, w, b) : la part des points où p > 0.5 correspond à l'étiquette. Atteins au moins 90 % sur des points cachés des deux mêmes groupes.

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.