Scegli un percorso e un budget
Perché è importante I progetti veri iniziano con una decisione su che cosa costruire e quanto calcolo spendere, presa prima della prima esecuzione. Il progetto finale è un modello, addestrato, testato e spiegato da te, su questo dispositivo. Niente viene caricato online.
Questo modulo è un piccolo progetto in otto passi. Alla fine hai una model card con ogni numero controllato rispetto alle tue esecuzioni, e un unico file HTML offline che contiene tutto.
Scegli un percorso. Entrambi usano la stessa rete dello studio (studio.MLP: input, un layer di unità ReLU, output) e la stessa regola di punteggio: più alto è meglio.
- language: prevedere il carattere successivo del testo del corso dagli 8 precedenti. Punteggio: meno la loss per carattere su testo su cui non si è addestrato.
- images: dire quale di 6 oggetti c'è in una foto generata (le foto realistiche del Modulo 18, fatte a 8 per 8 pixel così che circa 40 addestramenti stiano nel tuo browser). Punteggio: accuratezza su foto su cui non si è addestrato.
Poi un PLAN di baseline (larghezza fino a 64, learning rate, passi fino a 300, batch fino a 64: il progetto finale esegue circa 40 addestramenti nel tuo browser, quindi devono essere rapidi) e un budget nel registro dei FLOP (Modulo 19). Un'esecuzione costa circa 6 × pesi × esempi visti: studio.cost(track, width, steps, batch). Il tuo progetto spenderà: 3 seed di baseline, 3 cambiamenti × 3 seed, e un'esecuzione finale di al massimo 4 costi di baseline. In tutto sono 16 costi di baseline.
Parole e simboli di questa lezione
- baseline
- l'esecuzione semplice rispetto a cui si misura ogni cambiamento, sugli stessi seed
- model card
- una breve scheda di che cos'è un modello, come è stato addestrato, quanto funziona bene e dove non è stato testato
Imposta TRACK, PLAN e BUDGET (16 × il costo della baseline), e crea ledger = studio.Ledger(BUDGET). Stampa il costo di un'esecuzione di baseline e quanti pesi ha la rete.
Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione
Questo esercizio si apre presto
Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.
Questo browser blocca i cookie per learn.floati.life, quindi le lezioni che hai finito qui non si possono aprire in ordine. Consenti i cookie per questo sito e ricarica.