Müfredat 156 dersinden 148. · Bir araştırmacı gibi web'i ölç.
Bir araştırmacı gibi web'i ölç.

Bir tracker sınıflandırıcı eğit

Neden önemli Blocklistleri insanlar tarafından yazılır ve her zaman geriden gelir: her hafta yeni trackerlar ortaya çıkar. Bir classifier, trackerların nasıl davrandığını öğrenir ve henüz hiçbir listede adı geçmeyenleri işaretleyebilir. Küçük bir tane kendin inşa etmek, bu tür araçların neler yapabileceğini ve onları nasıl dürüstçe değerlendireceğini gösterir.

Deneyimli bir kapı görevlisini düşün. Kimse ona her sorun çıkaran kişinin listesini vermedi ama o işaretleri öğrendi ve bunları birlikte tartıyor: bir işaret az şey ifade eder, üçü bir araya geldiğinde çok şey ifade eder. Bir classifier sayılarla aynı şeyi yapar.

Veri

tracker_dataset(seed), watched.leg7b_web içinde simüle edilmiş bir web sitesini gezer ve gördüğü her üçüncü taraf için 0 ile 1 arasında ölçeklenen altı davranışı ölçer: kaç sitede bulunduğu, ne sıklıkla cookie ayarladığı, ne sıklıkla küçük görseller (pikseller) gönderdiği, URL'leri ne sıklıkla uzun ID benzeri değerler taşıdığı, ne sıklıkla sayfa adresini taşıdıkları ve yanıtları ne sıklıkla küçük olduğu. Her satır ayrıca bir y etiketi içerir: blok listesi onu bir tracker olarak tanımlıyorsa 1, tanımlamıyorsa 0.

from watched.leg7b_web import tracker_dataset
data = tracker_dataset(seed=2)
print(data["features"])
row = data["train"][0]
print(row["site"], row["x"], row["y"])

Lojistik regresyon üç fikirle

Weight: bir özelliğin ne kadar kanıt sayıldığını belirten bir sayı. Pozitif değer "bundan daha fazla, daha çok takipçi gibi" anlamına gelir.

1. Kanıtları değerlendir. Her özelliği ağırlığıyla çarp, bunları topla ve bir bias (başlangıç eğilimi) ekle: z = w1*x1 + w2*x2 + ... + bias.

2. Bunu bir olasılığa dönüştür. sigmoid fonksiyonu 1 / (1 + math.exp(-z)) herhangi bir sayıyı 0 ile 1 arasında bir sayıya dönüştürür. Büyük pozitif z neredeyse 1, büyük negatif neredeyse 0, sıfır ise 0.5 verir.

3. Hatalardan ders çıkar. Tüm ağırlıkları 0 ile başlat. Her eğitim satırı için error = prediction - y hesapla. Sonra her ağırlığı w = w - lr * error * x ve sapmayı bias - lr * error kadar değiştir. lr (öğrenme oranı) değişim boyutunu belirler. Tüm satırların üzerinden bir kez geçmek bir epoch; birçok epoch için tekrarla.

import math
def sigmoid(z):
    return 1 / (1 + math.exp(-z))
print(sigmoid(0), round(sigmoid(4), 3), round(sigmoid(-4), 3))   # 0.5 0.982 0.018

Değerlendirme: kesinlik ve duyarlılık

Bunlarla 2. Aşama'da karşılaştın. Olasılık en az 0.5 olduğunda "tracker" de. Sonra:

  • Precision = true işaretli takipçiler / her şey işaretli. Düşük hassasiyet zararsız siteleri bozar.
  • Recall = işaretlenen tüm true trackerlar / tüm true trackerlar. Düşük recall trackerların geçmesine izin verir.

Her zaman modelin hiç eğitilmediği held-out satırları üzerinde ölçüm yap. Eğitim satırları üzerinde puanlama yapmak modeli yanıltır. Testler daha ileri gider ve modelini daha önce hiç görmediği bir web sitesi taraması üzerinde puanlar.

A yaygın bir yanlış anlaşılma: "Model takipçinin ne olduğunu öğrendi." Model, hatalar dahil veriyi etiketleyen engellenenler listesiyle hemfikir olmayı öğrendi. Eğer liste bir site hakkında yanlışsa, model de yanlış olmaya öğretilir. Ders 149 buna geri dönüyor.

Diğer dillerde

Tahmin ve bir öğrenme adımı, başka yerlerde:

// JavaScript
const predict = (w, b, x) => 1 / (1 + Math.exp(-(x.reduce((s, v, i) => s + v * w[i], 0) + b)));
function step(w, b, row, lr) {
  const err = predict(w, b, row.x) - row.y;
  return [w.map((wi, i) => wi - lr * err * row.x[i]), b - lr * err];
}
// C#
double Predict(double[] w, double b, double[] x) {
    double z = b;
    for (int i = 0; i < x.Length; i++) z += w[i] * x[i];
    return 1.0 / (1.0 + Math.Exp(-z));
}

Özet

  • A sınıflandırıcı takipçi davranışını öğrenir, böylece henüz isimleri listede olmayan takipçileri işaretleyebilir.
  • Lojistik regresyon: özellikleri ağırlıklandır, sigmoid ile sıkıştır, ağırlıkları hata miktarına göre güncelle.
  • Onun hiç eğitilmediği satırlar üzerindeki hassasiyet ve geri çağırma değerlerine göre yargıla.
  • Dünyaya dair etiketlerin bakış açısını, hatalarıyla birlikte öğrenir.
Senin sıran

Düz Python ile üç fonksiyon yaz:

  1. predict(weights, bias, x): z = sum(weights[i] * x[i]) + bias.
  2. 'in 1 / (1 + math.exp(-z)) sigmoid fonksiyonu
  3. train(rows, epochs=100, lr=0.5): sıfır ağırlık (her özellik için bir tane) ve 0.0 sapma ile başla; her epoch için, sırasıyla her satır için, error = predict(...) - row["y"] hesapla, sonra her ağırlığı - lr * error * x[i] ile ve sapmayı - lr * error ile güncelle. (weights, bias).
  4. döndür.
  5. precision_recall(weights, bias, rows, threshold=0.5): tahmin eşik değerinden büyük veya eşitse bir satırı işaretle; sıfıra bölme durumunda 0.0 kullanarak (precision, recall) döndür. (Kurallar değişebilir: hiçbir şeyi işaretlemeyen bir engelleyici hiç yanlış alarm vermedi ve bazı puanlayıcılar bu hassasiyeti 1.0 olarak sayar. Her ikisi de savunulabilir; bir rapor hangisini kullandığını belirtmelidir.)
Sonra weights, bias değerini data["train"] ve test_precision, test_recall kullanarak data["test"] üzerinde ayarla. Testler modelini hiç görmediği simüle edilmiş bir web sitesinde puanlar: her ikisi için en az 0.80.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.