Programme Leçon 117 sur 246 · Module 10 : Des réseaux qui voient (CNN)
Module 10 : Des réseaux qui voient (CNN)

Pourquoi les mêmes maths peuvent tourner plusieurs fois plus vite

Pourquoi c'est important Ce cours tourne sur n'importe quel ordinateur portable sans carte graphique. Ça marche parce qu'un produit matriciel peut être fait lentement ou très vite sur le même processeur, et le cours utilise la façon rapide.

Un produit matriciel d'une matrice (n, k) par une (k, m) coûte environ 2 fois n fois k fois m opérations en virgule flottante (FLOP). Des bibliothèques appelées BLAS le font dans du code soigneusement réglé qui garde les nombres dans la mémoire la plus rapide du processeur et utilise ses instructions vectorielles. Dans le Python de ce navigateur, NumPy simple multiplie sans une telle bibliothèque ; le nnsim.engine.mm du cours passe plutôt par le BLAS de SciPy, qui s'est montré 2 à 5 fois plus rapide dans le navigateur lors des tests du cours. Sur le Python ordinaire d'un portable, NumPy utilise déjà un BLAS réglé, donc mm n'y est pas plus rapide et peut être plus lent (environ 0.4 fois la vitesse de @ dans un test) : l'accélération est un fait propre à ce navigateur, pas aux maths.

Divise les FLOP par les secondes pour obtenir la vitesse en FLOP par seconde. Ce seul nombre, avec le registre des FLOP, te permet de prédire combien de temps prendra n'importe quel entraînement avant de le lancer.

BLAS : Basic Linear Algebra Subprograms, les routines rapides standard pour les maths sur les vecteurs et les matrices.

Mots et symboles de cette leçon
BLAS, GFLOP/s
des routines de maths standard rapides ; des milliards d'opérations par seconde
À ton tour

Écris flops(n, k, m) et gflops_per_s(n, k, m, seconds). Puis lance le chronométrage et affecte à my_speedup combien de fois mm a été plus rapide que @ ici (n'importe quelle valeur honnêtement mesurée ; ça dépend de la machine).

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.