Silabus Pelajaran 225 dari 246 · Modul 21: Melihat ke dalam sebuah model
Modul 21: Melihat ke dalam sebuah model

Membaca fitur, dan memeriksa hasil bacaan

Kenapa ini penting Sebuah fitur mendapatkan nama dari contoh teratasnya. Nama itu adalah sebuah hipotesis, dan sebagian besar label fitur yang diterbitkan tidak pernah diuji terhadap teks yang tidak dilihat oleh pelabelnya.

Muat sparse autoencoder yang sudah direkam dari kursus ini (256 features, l1 0.3, dilatih selama 2,000 steps dengan 512 vectors, lebih lama dari yang diizinkan sebuah pelajaran, dan fitur yang sama di setiap mesin) dan pilih, untuk beberapa string, fitur yang paling spesifik untuk posisi di mana teks berakhir dengan string tersebut. Lalu beri label dan uji labelnya pada teks yang disimpan:

  • precision: dari tempat yang dipegang di mana fitur menyala kuat (di atas setengah nilai pelatihan terbesarnya), bagian di mana teks benar-benar berakhir dengan string;
  • recall: dari tempat yang disimpan yang berakhiran dengan string, bagian di mana itu berjalan.

interp.top_contexts(sae, A, X, model, k) menunjukkan di mana fitur k bekerja paling keras, sebagai teks sampai karakter tersebut.

Prediksi dulu: fitur untuk "tra" paling kuat muncul pada " sebelum tra" dan " lapisan tra" (awal dari "train"). Apakah label "tra" akan benar sebagian besar waktu pada teks baru?

Kata dan simbol di pelajaran ini
sparse autoencoder
lapisan lebar yang dilatih untuk membangun kembali vektor dari beberapa fitur aktif dalam satu waktu
presisi, recall (dari sebuah label)
dari tempat fitur aktif, bagian label yang cocok; dari tempat label cocok, bagian yang aktif
Giliranku

Atur my_guess ke "yes" atau "no". Tulis check(k, s) yang mengembalikan (presisi, recall) pada vektor yang ditahan, di mana fitur menyala di suatu tempat kalau nilainya di sana di atas separuh nilai terbesarnya pada vektor latih (F[:, k].max()). Isi results[s] = check(feature_for(s), s) untuk " the", "ing" dan "tra". Atur honest_label ke string yang labelnya terbukti (presisi minimal 0.7) dan really ke akhiran tiga huruf yang paling sering membuat fitur "tra" menyala di teks yang ditahan.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.