Conteúdo do curso Lição 216 de 246 · Módulo 20: Adaptando um modelo treinado de forma barata
Módulo 20: Adaptando um modelo treinado de forma barata

Escolhendo um método sob um Orçamento

Por que isso importa Cada método neste módulo é a resposta certa para uma pergunta diferente. Escolher por moda desperdiça dinheiro; escolher por medições é o trabalho.

O que você mediu, em um só lugar:

  • Fine-tuning completo (200 steps): código 2.19, inglês 2.26. Treina todos os 107.072 pesos; uma cópia totalmente nova do modelo para armazenar.
  • LoRA rank 4: código 2.27, Inglês 2.04. Treina 8,192; armazena apenas aqueles.
  • Distillation para um aluno de 16-wide (3000 steps): Inglês 1.98 com cerca de 1/8 dos pesos, contra 2.18 treinado sozinho.
  • Quantisation: 8 bits, um quarto do tamanho, sem mudança; 4 bits, um oitavo, +0.13.

Para cada situação, escolha o método que as medições suportam.

Palavras e símbolos nesta lição
fine-tuning
continuar treinando um modelo treinado em novos dados
LoRA
adaptação de baixo posto: uma matriz de pesos congelada mais duas finas treináveis, x W + (alpha / r) x A B
rank (r)
quão finas são as duas matrizes do LoRA: (d_in + d_out) x r pesos treináveis por matriz
distillation
treinando um pequeno aluno para copiar as probabilidades totais de um grande professor
temperatura (destilação)
dividindo as pontuações antes do softmax para que as segundas escolhas contem mais
quantisation
armazenar pesos em menos bits arredondando-os para alguns passos
Sua vez

Preencha choice com uma de "full fine-tune", "LoRA", "distillation" ou "quantisation" para cada situação.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.