Quanto sottile basta? (rango)
Perché è importante Il rango è l'unica vera impostazione di LoRA. Troppo sottile e non può imparare il compito nuovo; oltre un certo punto, più rango non compra quasi niente. Dove si trova quel punto conviene prevederlo prima di pagarlo.
Il corso ha addestrato LoRA sul codice ai ranghi da 1 a 64, e il fine-tuning completo, 3 seed ciascuno, 200 passi (adapt.recorded()). Ogni riga ha il rango, i pesi addestrabili, la loss sul codice (nuovo) e la loss sull'inglese (vecchio).
Indovina la curva
Prima di leggerli, indovina la loss sul codice ai ranghi 1, 4, 16 e 64. Punti di riferimento: prima dell'addestramento 3.25; fine-tuning completo circa 2.19.
Parole e simboli di questa lezione
- fine-tuning
- continuare ad addestrare un modello addestrato su dati nuovi
- LoRA
- low-rank adaptation: una matrice di pesi congelata più due sottili addestrabili, x W + (alpha / r) × A B
- rango (r)
- quanto sono sottili le due matrici di LoRA: (d_in + d_out) × r pesi addestrabili per matrice
Riempi my_guess (quattro loss sul codice), poi by_rank: per i ranghi 1, 4, 16, 64 e "full", la loss media sul codice e la loss media sull'inglese sui 3 seed. Imposta diminishing su True se passare dal rango 16 al 64 guadagna meno di un quarto di quanto guadagna passare da 1 a 4.
Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione
Questo esercizio si apre presto
Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.
Questo browser blocca i cookie per learn.floati.life, quindi le lezioni che hai finito qui non si possono aprire in ordine. Consenti i cookie per questo sito e ricarica.