Programma Lezione 211 di 246 · Modulo 20: Adattare a poco prezzo un modello addestrato
Modulo 20: Adattare a poco prezzo un modello addestrato

Quanto sottile basta? (rango)

Perché è importante Il rango è l'unica vera impostazione di LoRA. Troppo sottile e non può imparare il compito nuovo; oltre un certo punto, più rango non compra quasi niente. Dove si trova quel punto conviene prevederlo prima di pagarlo.

Il corso ha addestrato LoRA sul codice ai ranghi da 1 a 64, e il fine-tuning completo, 3 seed ciascuno, 200 passi (adapt.recorded()). Ogni riga ha il rango, i pesi addestrabili, la loss sul codice (nuovo) e la loss sull'inglese (vecchio).

Indovina la curva

Prima di leggerli, indovina la loss sul codice ai ranghi 1, 4, 16 e 64. Punti di riferimento: prima dell'addestramento 3.25; fine-tuning completo circa 2.19.

Parole e simboli di questa lezione
fine-tuning
continuare ad addestrare un modello addestrato su dati nuovi
LoRA
low-rank adaptation: una matrice di pesi congelata più due sottili addestrabili, x W + (alpha / r) × A B
rango (r)
quanto sono sottili le due matrici di LoRA: (d_in + d_out) × r pesi addestrabili per matrice
Tocca a te

Riempi my_guess (quattro loss sul codice), poi by_rank: per i ranghi 1, 4, 16, 64 e "full", la loss media sul codice e la loss media sull'inglese sui 3 seed. Imposta diminishing su True se passare dal rango 16 al 64 guadagna meno di un quarto di quanto guadagna passare da 1 a 4.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.