Latih klasifikasi tracker
Kenapa ini penting Blocklist ditulis oleh manusia dan selalu tertinggal: tracker baru muncul setiap minggu. Sebuah classifier mempelajari bagaimana tracker berperilaku dan bisa menandai yang belum ada di daftar mana pun. Membuat satu yang kecil sendiri menunjukkan apa yang bisa dilakukan alat seperti itu, dan cara menilainya dengan jujur.
Bayangkan seorang petugas keamanan yang berpengalaman. Tidak ada yang memberi mereka daftar setiap pembuat masalah, tapi mereka sudah mempelajari tandanya, dan mereka menimbangnya bersama: satu tanda berarti sedikit, tiga tanda bersamaan berarti banyak. Sebuah classifier melakukan hal yang sama dengan angka.
Data
tracker_dataset(seed) di watched.leg7b_web merayapi web simulasi dan mengukur enam perilaku untuk setiap pihak ketiga yang dilihat, masing-masing diskalakan dari 0 sampai 1: berapa banyak situs tempat ia berada, seberapa sering ia memasang cookies, seberapa sering ia mengirim gambar kecil (pixel), seberapa sering URL miliknya membawa nilai seperti ID yang panjang, seberapa sering mereka membawa alamat halaman, dan seberapa sering responsnya kecil. Setiap baris juga memiliki label y: 1 jika blocklist menyebutnya sebagai tracker, 0 jika tidak.
from watched.leg7b_web import tracker_dataset
data = tracker_dataset(seed=2)
print(data["features"])
row = data["train"][0]
print(row["site"], row["x"], row["y"])Regresi logistik dalam tiga ide
Weight: angka yang menunjukkan seberapa besar satu fitur dihitung sebagai bukti. Positif berarti "semakin banyak ini, semakin mirip tracker".
1. Timbang buktinya. Kalikan setiap fitur dengan bobotnya, jumlahkan semuanya, dan tambahkan bias (kecenderungan awal): z = w1*x1 + w2*x2 + ... + bias.
2. Ubah jadi probabilitas. Fungsi sigmoid 1 / (1 + math.exp(-z)) mengubah angka apa pun jadi antara 0 dan 1. z positif besar memberi hampir 1, negatif besar hampir 0, nol memberi 0.5.
3. Belajar dari kesalahan. Mulai dengan semua weight 0. Untuk setiap baris training, hitung error = prediction - y. Lalu geser setiap weight: w = w - lr * error * x, dan bias oleh bias - lr * error. lr (learning rate) menentukan ukuran geseran. Melewati semua baris sekali adalah sebuah epoch; ulangi untuk banyak epoch.
import math
def sigmoid(z):
return 1 / (1 + math.exp(-z))
print(sigmoid(0), round(sigmoid(4), 3), round(sigmoid(-4), 3)) # 0.5 0.982 0.018Menilainya: presisi dan recall
Kamu bertemu ini di Tahap 2. Katakan "tracker" saat probabilitasnya setidaknya 0.5. Lalu:
- Precision = true trackers ditandai / semua ditandai. Presisi rendah merusak situs yang tidak berbahaya.
- Recall = true trackers yang ditandai / semua true trackers. Recall rendah membiarkan trackers lolos.
Selalu ukur pada held-out baris, baris yang tidak pernah dilatih oleh model. Skor pada baris pelatihan hanya akan memuji model tersebut. Tes akan melangkah lebih jauh dan memberi skor pada model kamu dari hasil crawl web yang belum pernah dilihatnya.
Kesalahpahaman umum: "Model mempelajari apa itu tracker." Model belajar untuk setuju dengan blocklist yang melabeli data, termasuk kesalahan di dalamnya. Jika daftar tersebut salah tentang sebuah situs, model juga diajarkan untuk salah. Pelajaran 149 kembali membahas ini.
Di bahasa lain
Prediksi dan satu langkah pembelajaran, di tempat lain:
// JavaScript
const predict = (w, b, x) => 1 / (1 + Math.exp(-(x.reduce((s, v, i) => s + v * w[i], 0) + b)));
function step(w, b, row, lr) {
const err = predict(w, b, row.x) - row.y;
return [w.map((wi, i) => wi - lr * err * row.x[i]), b - lr * err];
}// C#
double Predict(double[] w, double b, double[] x) {
double z = b;
for (int i = 0; i < x.Length; i++) z += w[i] * x[i];
return 1.0 / (1.0 + Math.Exp(-z));
}Ringkasan
- A classifier mempelajari perilaku tracker, jadi dia bisa menandai tracker yang belum ada nama listnya.
- Regresi logistik: timbang fitur, tekan dengan sigmoid, geser bobot berdasarkan error.
- Nilainya berdasarkan precision dan recall pada baris yang tidak pernah dilatihinya.
- Ia mempelajari pandangan label terhadap dunia, termasuk kesalahannya.
Tulis tiga fungsi, dalam Python biasa:
predict(weights, bias, x): sigmoid1 / (1 + math.exp(-z))dariz = sum(weights[i] * x[i]) + bias.train(rows, epochs=100, lr=0.5): mulai dengan bobot nol (satu per fitur) dan bias 0.0; untuk setiap epoch, untuk setiap baris secara berurutan, hitungerror = predict(...) - row["y"], lalu perbarui setiap bobot dengan- lr * error * x[i]dan bias dengan- lr * error. Kembalikan(weights, bias).precision_recall(weights, bias, rows, threshold=0.5): tandai baris saat prediksi setidaknya mencapai ambang batas; kembalikan(precision, recall), gunakan 0.0 jika pembagian akan menghasilkan nol. (Konvensi berbeda: pemblokir yang tidak menandai apa pun tidak membuat alarm palsu, dan beberapa penilai menghitung presisi itu sebagai 1.0. Keduanya bisa dibela; laporan harus menyebutkan mana yang digunakan.)
weights, bias dari data["train"] dan test_precision, test_recall pada data["test"]. Tests akan menilai model kamu di web simulasi yang belum pernah dilihatnya: minimal 0.80 untuk keduanya.
Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini
Latihan ini akan segera dibuka
Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.
Browser ini memblokir cookie untuk learn.floati.life, jadi pelajaran yang sudah kamu selesaikan di sini tidak bisa dibuka berurutan. Izinkan cookie untuk situs ini dan muat ulang.