Des pentes par petites poussées (dérivées)
Pourquoi c'est important L'entraînement pose une seule question encore et encore : si je pousse ce poids, qu'arrive-t-il à la perte ? Cette question a un nom : la dérivée.
Vois-le
Prends f(x) = x * x en x = 3, où f vaut 9. Pousse x à 3.001 : f devient 9.006001. La sortie a bougé de 0.006001 pour un mouvement de l'entrée de 0.001, environ 6 fois plus. Donc la pente en 3 vaut environ 6.
La pente exacte de x au carré vaut 2 fois x, soit 6 en x = 3. La poussée l'a trouvée presque exactement. Pousser dans les deux sens et faire la moyenne, (f(x + h) - f(x - h)) / (2h), est encore plus précis.
Dérivée : à quelle vitesse la sortie change par unité de changement de l'entrée, en un point. La pente de la courbe à cet endroit.
Les pentes dont tu auras besoin
Tu peux toujours pousser, mais ces pentes exactes reviennent sans cesse dans ce cours. Chacune est facile à vérifier avec ta fonction slope.
| Fonction | Pente |
|---|---|
| x à la puissance n | n fois x à la puissance n - 1 (donc x au carré a une pente de 2x) |
| exp(x) | exp(x) : sa propre pente |
| log(x) | 1 / x |
| sigmoid(x) = 1 / (1 + exp(-x)) | sigmoid(x) times (1 - sigmoid(x)) |
| tanh(x) | 1 - tanh(x) au carré |
| a fois b, tous deux dépendant de x | (pente de a) fois b + a fois (pente de b) : la règle du produit |
| f(g(x)), l'une dans l'autre | pente de f en g(x), fois pente de g : la règle de dérivation en chaîne, leçon suivante |
Récap Pousse, mesure, divise. C'est tout ce qu'est une dérivée.
Mots et symboles de cette leçon
- dérivée (df/dx)
- à quelle vitesse la sortie change par unité de poussée de l'entrée
- règle de dérivation en chaîne
- la pente d'étapes à la suite est le produit de la pente propre de chaque étape
Écris slope(f, x, h=1e-5) avec la poussée des deux côtés. Elle doit marcher pour n'importe quelle fonction d'un seul nombre.
Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon
Cet exercice s'ouvre bientôt
Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.
Ce navigateur bloque les cookies pour learn.floati.life, donc les leçons que tu as terminées ici ne peuvent pas s'ouvrir dans l'ordre. Autorise les cookies pour ce site et recharge la page.