Programma Lezione 117 di 246 · Modulo 10: Reti che vedono (CNN)
Modulo 10: Reti che vedono (CNN)

Perché la stessa matematica può girare diverse volte più veloce

Perché è importante Questo corso gira su qualsiasi portatile senza scheda grafica. Funziona perché una moltiplicazione di matrici si può fare lentamente o molto velocemente sulla stessa CPU, e il corso usa il modo veloce.

Una moltiplicazione di una matrice (n, k) per una (k, m) costa circa 2 per n per k per m operazioni in virgola mobile (FLOP). Le librerie chiamate BLAS la fanno con codice regolato con cura che tiene i numeri nella memoria più veloce della CPU e usa le sue istruzioni vettoriali. Nel Python di questo browser, il semplice NumPy moltiplica senza una libreria del genere; il nnsim.engine.mm del corso passa invece per la BLAS di SciPy, che nei test del corso è risultata da 2 a 5 volte più veloce nel browser. Sul normale Python di un portatile, NumPy usa già una BLAS regolata, quindi lì mm non è più veloce e può essere più lento (circa 0.4 volte la velocità di @ in un test): l'accelerazione è un fatto di questo browser, non della matematica.

Dividi i FLOP per i secondi per avere la velocità in FLOP al secondo. Quel numero, insieme al registro dei FLOP, ti permette di prevedere quanto durerà qualsiasi addestramento prima di iniziarlo.

BLAS: Basic Linear Algebra Subprograms, le routine veloci standard per la matematica di vettori e matrici.

Parole e simboli di questa lezione
BLAS, GFLOP/s
routine matematiche standard veloci; miliardi di operazioni al secondo
Tocca a te

Scrivi flops(n, k, m) e gflops_per_s(n, k, m, seconds). Poi esegui la misura dei tempi e imposta my_speedup su quante volte mm è stato più veloce di @ qui (qualsiasi valore misurato con onestà; dipende dalla macchina).

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.