Mini-projet : ajuster une droite par petites poussées
Pourquoi c'est important C'est ainsi que tout réseau de neurones apprend, sans les grands mots. Tu vas le faire ici avant même qu'il ait un nom.
Des points se trouvent à peu près sur une droite y = slope * x + intercept, mais on ne connaît ni la pente ni l'ordonnée à l'origine. Commence avec les deux à 0. Mesure à quel point la droite se trompe : l'erreur est la moyenne de (prédiction moins vérité) au carré. Puis pousse.
La recette des petites poussées
- Essaie la pente un peu plus haut, et un peu plus bas. Garde celle qui fait baisser l'erreur, si l'une le fait.
- Fais pareil pour l'ordonnée à l'origine.
- Recommence. Si aucune poussée n'aide, rends la poussée plus petite, et arrête-toi quand elle est minuscule.
L'erreur baisse étape par étape jusqu'à ce que la droite se pose sur les points. Au module 3, tu remplaceras « essayer les deux sens » par une formule qui te dit tout de suite de quel côté descend la pente. Cette formule, c'est le gradient, et marcher le long de lui s'appelle la descente de gradient. Ce que tu construis ici, essayer chaque réglage vers le haut puis vers le bas tour à tour, a son propre nom : la recherche par coordonnées. C'est plus lent, mais c'est la même idée de descendre la pente.
Erreur quadratique moyenne : la moyenne de chaque erreur au carré. Mettre au carré rend chaque erreur positive et punit davantage les grosses.
Récap Mesure à quel point tu te trompes, pousse, garde ce qui aide, recommence.
Mots et symboles de cette leçon
- moyenne, dispersion
- la moyenne, et à peu près à quelle distance les valeurs s'en trouvent (écart type)
Écris mse(slope, intercept, x, y) et fit_line(x, y). fit_line utilise la recette des petites poussées : commence à 0 et 0 avec une poussée de 1.0, divise la poussée par deux chaque fois qu'aucune poussée n'aide, arrête-toi quand la poussée est inférieure à 0.0001, et renvoie (slope, intercept). Le test caché vérifie que l'erreur sur de nouvelles données est proche de la meilleure possible.
Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon
Cet exercice s'ouvre bientôt
Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.
Ce navigateur bloque les cookies pour learn.floati.life, donc les leçons que tu as terminées ici ne peuvent pas s'ouvrir dans l'ordre. Autorise les cookies pour ce site et recharge la page.