Programma Lezione 236 di 246 · Modulo 23: Studio del progetto finale: una model card che puoi eseguire
Modulo 23: Studio del progetto finale: una model card che puoi eseguire

Scegli un percorso e un budget

Perché è importante I progetti veri iniziano con una decisione su che cosa costruire e quanto calcolo spendere, presa prima della prima esecuzione. Il progetto finale è un modello, addestrato, testato e spiegato da te, su questo dispositivo. Niente viene caricato online.

Questo modulo è un piccolo progetto in otto passi. Alla fine hai una model card con ogni numero controllato rispetto alle tue esecuzioni, e un unico file HTML offline che contiene tutto.

Scegli un percorso. Entrambi usano la stessa rete dello studio (studio.MLP: input, un layer di unità ReLU, output) e la stessa regola di punteggio: più alto è meglio.

  • language: prevedere il carattere successivo del testo del corso dagli 8 precedenti. Punteggio: meno la loss per carattere su testo su cui non si è addestrato.
  • images: dire quale di 6 oggetti c'è in una foto generata (le foto realistiche del Modulo 18, fatte a 8 per 8 pixel così che circa 40 addestramenti stiano nel tuo browser). Punteggio: accuratezza su foto su cui non si è addestrato.

Poi un PLAN di baseline (larghezza fino a 64, learning rate, passi fino a 300, batch fino a 64: il progetto finale esegue circa 40 addestramenti nel tuo browser, quindi devono essere rapidi) e un budget nel registro dei FLOP (Modulo 19). Un'esecuzione costa circa 6 × pesi × esempi visti: studio.cost(track, width, steps, batch). Il tuo progetto spenderà: 3 seed di baseline, 3 cambiamenti × 3 seed, e un'esecuzione finale di al massimo 4 costi di baseline. In tutto sono 16 costi di baseline.

Parole e simboli di questa lezione
baseline
l'esecuzione semplice rispetto a cui si misura ogni cambiamento, sugli stessi seed
model card
una breve scheda di che cos'è un modello, come è stato addestrato, quanto funziona bene e dove non è stato testato
Tocca a te

Imposta TRACK, PLAN e BUDGET (16 × il costo della baseline), e crea ledger = studio.Ledger(BUDGET). Stampa il costo di un'esecuzione di baseline e quanti pesi ha la rete.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.