Müfredat 246 dersinden 217. · Modül 20: Eğitilmiş bir modeli ucuza uyarlamak
Modül 20: Eğitilmiş bir modeli ucuza uyarlamak

Kapı sınavı: bir bütçeyle yeni bir görev (yapay zekâ kapalı)

Neden önemli Gerçek uyarlama işinin bir hedefi, bir bütçesi ve bozmaman gereken bir şeyi vardır. Üçü birden, aynı anda, tek başına.

Kapı sınavı kuralları: yapay zekâ öğretmeni kapalı. Kaydedilmiş GPT'yi her biri 8 pencerelik en fazla 60 eğitim adımıyla Python koduna uyarla. Yeni bir çalıştırmada hedefler (yeni tohum):

  • ayrılmış kod kaybı en fazla 2.43 (temel 3.25 alıyor);
  • ayrılmış İngilizce kayıp en fazla 2.00 (temel 1.70 alıyor);

plan'ı ayarla: yöntem "full" ya da "lora", rank (LoRA için 1'den 64'e), adımlar ve öğrenme oranı. Kontrol planını yeni bir tohumda bir kez eğitir.

Bu dersteki kelimeler ve semboller
LoRA
düşük ranklı uyarlama: dondurulmuş bir ağırlık matrisi artı iki ince eğitilebilir matris, x W + (alpha / r) x A B
rank (r)
LoRA'nın iki matrisinin ne kadar ince olduğu: matris başına (d_in + d_out) x r eğitilebilir ağırlık
Senin sıran

plan'ı doldur.

AI kapalı: bu ödevde eğitmen, ipucu veya çözümlü örnek yok. Sadece kendi düşüncen.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.