Vektörler verilerini kopyalar, çarpıklıklar dahil
Neden önemli Gömmeler metnin içerdiği her kalıbı öğrenir, kimsenin istemedikleri dahil. Gerçek haberler üzerinde eğitilmiş kelime vektörleri bazı meslekleri "she"ye, diğerlerini "he"ye daha yakın koyar. Bunu ölçebilirsin, ve ölçmelisin.
Yalnızca cinsiyette farklı olan çiftlerden bir cinsiyet yönü yap: queen eksi king, woman eksi man, princess eksi prince, girl eksi boy, toplanmış ve uzunluk 1'e ölçeklenmiş. Bir kelimenin onun üzerindeki konumu (birim) vektörünün yönle iç çarpımıdır: pozitif "she"ye, negatif "he"ye eğilir.
Oyuncak dünya bir çarpıklık ekleyebilir: 0.4 çarpıklıkla nurse cümleleri zamanın %90'ında "she", engineer cümleleri zamanın %90'ında "he" der. Doktorlar ve öğretmenler 50:50 kalır. Başka hiçbir şey değişmez.
Onu kaldırmak, ve püf noktası
Her mesleğin yön boyunca bileşenini çıkarabilirsin, bu da konumunu tam olarak 0'a ayarlar. Bu oyuncak dünyada bu neredeyse tamamen işe yarar: kaldırmadan sonra ölçüldüğünde nurse ve engineer "she" ve "he"ye yaklaşık eşit yakınlıkta durur (her iki yönde kosinüsler 0.114 ve 0.118). Bunun nedeni burada çarpıklığın tek bir kelimede, zamirde yaşamasıdır. Gerçek metin üzerinde eğitilmiş kelime vektörlerinde araştırmacılar tersini buldu: çarpıklık tek bir yönün yakalayamayacağı binlerce kelimeye yayılmıştır, bu yüzden kaldırmadan sonra bir mesleğin komşuları onu hâlâ ele verir. Yani temiz bir cetvel okuması çarpıklığın gittiğinin kanıtı değildir, ve dürüst düzeltme veriyle başlar.
Bu dersteki kelimeler ve semboller
- gömme
- bir sembolü temsil eden öğrenilmiş sayı satırı
- pencere
- her iki yanda kaç kelimenin bir kelimenin arkadaşlığı sayıldığı
- PPMI
- iki kelimenin şansın vereceğinden ne kadar daha sık karşılaştığı, negatifler 0'a ayarlanmış
- oyuncak dünya
- yerleştirilmiş bir yapıya sahip uydurulmuş bir metin, böylece doğru cevaplar bilinir
- çarpıklık
- verideki, vektörlerin kopyaladığı yamuk bir kalıp
gender_direction(X) ve position(X, word, g) yaz. İkisi de birim vektörler üzerinde çalışır: önce her kelimenin vektörünü uzunluğuna böl, sonra dört farkı al (queen eksi king, woman eksi man, princess eksi prince, girl eksi boy), onları topla ve toplamı uzunluk 1'e ölçekle. Bir konum, kelimenin birim vektörünün g ile iç çarpımıdır. pos'u doldur: bütün cümleyi pencere olarak alan sayı vektörlerini kullanarak çarpıklıktan (0.0 ve 0.4) dört mesleğin konumlarından oluşan bir sözlüğe. Sonra g boyunca bileşeni çıkaran remove(x, g) yaz.
Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor
Bu alıştırma yakında açılacak
Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.
Bu tarayıcı learn.floati.life için çerezleri engelliyor, bu yüzden burada bitirdiğin dersler sırasıyla açılamıyor. Bu site için çerezlere izin ver ve sayfayı yenile.