Escolhendo um método sob um Orçamento
Por que isso importa Cada método neste módulo é a resposta certa para uma pergunta diferente. Escolher por moda desperdiça dinheiro; escolher por medições é o trabalho.
O que você mediu, em um só lugar:
- Fine-tuning completo (200 steps): código 2.19, inglês 2.26. Treina todos os 107.072 pesos; uma cópia totalmente nova do modelo para armazenar.
- LoRA rank 4: código 2.27, Inglês 2.04. Treina 8,192; armazena apenas aqueles.
- Distillation para um aluno de 16-wide (3000 steps): Inglês 1.98 com cerca de 1/8 dos pesos, contra 2.18 treinado sozinho.
- Quantisation: 8 bits, um quarto do tamanho, sem mudança; 4 bits, um oitavo, +0.13.
Para cada situação, escolha o método que as medições suportam.
Palavras e símbolos nesta lição
- fine-tuning
- continuar treinando um modelo treinado em novos dados
- LoRA
- adaptação de baixo posto: uma matriz de pesos congelada mais duas finas treináveis, x W + (alpha / r) x A B
- rank (r)
- quão finas são as duas matrizes do LoRA: (d_in + d_out) x r pesos treináveis por matriz
- distillation
- treinando um pequeno aluno para copiar as probabilidades totais de um grande professor
- temperatura (destilação)
- dividindo as pontuações antes do softmax para que as segundas escolhas contem mais
- quantisation
- armazenar pesos em menos bits arredondando-os para alguns passos
Preencha choice com uma de "full fine-tune", "LoRA", "distillation" ou "quantisation" para cada situação.
Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição
Este exercício abre em breve
Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.
Este navegador está bloqueando cookies para learn.floati.life, então as lições que você terminou aqui não podem abrir em ordem. Permita cookies para este site e recarregue.