Programme Leçon 211 sur 246 · Module 20 : Adapter un modèle entraîné à peu de frais
Module 20 : Adapter un modèle entraîné à peu de frais

Fin comment, c'est assez ? (le rang)

Pourquoi c'est important Le rang est le seul vrai réglage de LoRA. Trop fin, il ne peut pas apprendre la nouvelle tâche ; au-delà d'un certain point, plus de rang n'achète presque rien. L'endroit où se trouve ce point mérite d'être prédit avant de payer.

Le cours a entraîné LoRA sur du code aux rangs 1 à 64, et l'affinage complet, 3 graines chacun, 200 pas (adapt.recorded()). Chaque ligne a le rang, les poids entraînables, la perte sur le code (nouveau) et la perte en anglais (ancien).

Prédis la courbe

Avant de les lire, devine la perte sur le code aux rangs 1, 4, 16 et 64. Repères : avant l'entraînement 3.25 ; affinage complet environ 2.19.

Mots et symboles de cette leçon
fine-tuning
continuer à entraîner un modèle entraîné sur de nouvelles données
LoRA
adaptation de rang faible : une matrice de poids figée plus deux fines matrices entraînables, x W + (alpha / r) x A B
rang (r)
à quel point les deux matrices de LoRA sont fines : (d_in + d_out) × r poids entraînables par matrice
À ton tour

Remplis my_guess (quatre pertes sur le code), puis by_rank : pour les rangs 1, 4, 16, 64 et "full", la perte moyenne sur le code et la perte moyenne en anglais sur les 3 graines. Affecte à diminishing True si passer du rang 16 au rang 64 gagne moins d'un quart de ce que gagne le passage de 1 à 4.

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.