Müfredat 246 dersinden 195. · Modül 18: Etiketsiz öğrenmek
Modül 18: Etiketsiz öğrenmek

Özellikleri basit bir sınıflandırıcıyla test etmek (doğrusal yoklamalar)

Neden önemli En yakın komşular kaba bir cevap verdi. Öğrenilmiş özelliklerin standart testi bir doğrusal yoklamadır: özellikleri dondur, üstüne birkaç etiketle yalnızca doğrusal bir sınıflandırıcı eğit, ve onu yeni fotoğraflarda ölç. Düz bir çizgi nesneleri ayırabiliyorsa, zor işi özellikler yapmıştır.

Yoklama, pikseller yerine özellikler üzerinde Modül 3'ün softmax regresyonudur:

  1. Her özelliği eğitim kümesinin ortalaması ve yayılımıyla standartlaştır (ve aynı sayıları test kümesinde kullan).
  2. Çapraz entropi üzerinde gradyan inişi, bütün eğitim satırları aynı anda: 1000 adım, adım boyu 0.5, ağırlık azaltma 0.001.
  3. Test fotoğraflarında doğruluk.

Kasıtlı olarak zayıftır: 400 etiketli doğrusal bir model. Mesele de bu. İyi özellikler icat edemez; yalnızca özelliklerin zaten ne söylediğini okuyabilir.

Bu dersteki kelimeler ve semboller
doğrusal yoklama
dondurulmuş özellikler üzerinde eğitilmiş doğrusal bir sınıflandırıcı: özelliklerin zaten ne söylediğinin bir testi
SimCLR
her resmin iki görünümü ve InfoNCE ile öz denetimli eğitim (Chen vd. 2020)
Senin sıran

Anlatıldığı gibi my_probe(F_train, y_train, F_test, y_test) yaz (ağırlıklar ve sapmalar sıfırdan başlar). Sonra yoklamanla rastgele bir kodlayıcı (ssl.Encoder(32, seed=0)) ve kaydedilmiş SimCLR kodlayıcısı için accuracy'yi doldur. Ham piksel taban çizgisi (fotoğraf başına 768 sayı) senin için kursun yoklamasıyla hesaplanmış, o da aynı aritmetiği float32'de hızlı matris çarpımında yapar: senin float64 sürümün tarayıcıda 768 girdide yarım dakika sürerdi.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.