Обучите классификатор трекеров
Почему это важно Списки блокировки пишут люди, и они всегда отстают: новые трекеры появляются каждую неделю. Классификатор учится тому, как трекеры ведут себя, и может помечать те, которых ещё нет ни в одном списке. Построив небольшой сами, вы увидите, что могут такие инструменты и как их честно оценивать.
Представьте опытного швейцара. Никто не давал ему списка всех хулиганов, но он выучил признаки и взвешивает их вместе: один признак мало что значит, три вместе - многое. Классификатор делает то же с числами.
Данные
tracker_dataset(seed) в watched.leg7b_web обходит смоделированный веб и измеряет шесть видов поведения для каждой встреченной третьей стороны, каждый в шкале от 0 до 1: на скольких сайтах она есть, как часто ставит cookie, как часто отправляет крошечные изображения (пиксели), как часто её URL несут длинные значения, похожие на ID, как часто они несут адрес страницы и как часто её ответы маленькие. У каждой строки есть и метка y: 1, если список блокировки называет её трекером, 0, если нет.
from watched.leg7b_web import tracker_dataset
data = tracker_dataset(seed=2)
print(data["features"])
row = data["train"][0]
print(row["site"], row["x"], row["y"])Логистическая регрессия в трёх идеях
Вес: число, которое говорит, насколько один признак считается доказательством. Положительный - значит "чем больше этого, тем больше похоже на трекер".
1. Взвесьте доказательства. Умножьте каждый признак на его вес, сложите и добавьте смещение (начальный наклон): z = w1*x1 + w2*x2 + ... + bias.
2. Сожмите в вероятность. Функция сигмоида 1 / (1 + math.exp(-z)) превращает любое число в число от 0 до 1. Большое положительное z даёт почти 1, большое отрицательное - почти 0, ноль даёт 0.5.
3. Учитесь на ошибках. Начните со всех весов, равных 0. Для каждой обучающей строки вычислите error = prediction - y. Затем подвиньте каждый вес: w = w - lr * error * x, а смещение - на bias - lr * error. lr (скорость обучения) задаёт размер сдвига. Один проход по всем строкам - это эпоха; повторяйте много эпох.
import math
def sigmoid(z):
return 1 / (1 + math.exp(-z))
print(sigmoid(0), round(sigmoid(4), 3), round(sigmoid(-4), 3)) # 0.5 0.982 0.018Оценка: precision и recall
Вы встречали их в части 2. Говорите "трекер", когда вероятность не меньше 0.5. Тогда:
- Precision = настоящие трекеры среди помеченных / всё помеченное. Низкая precision ломает безвредные сайты.
- Recall = помеченные настоящие трекеры / все настоящие трекеры. Низкий recall пропускает трекеры.
Всегда измеряйте на отложенных строках, на которых модель никогда не обучалась. Оценка на обучающих строках ей льстит. Тесты идут дальше и оценивают вашу модель на обходе веба, которого она никогда не видела.
Распространённое заблуждение: "Модель выучила, что такое трекер." Она научилась соглашаться со списком блокировки, который разметил данные, включая его ошибки. Если список ошибается насчёт сайта, модель учат ошибаться тоже. Урок 149 к этому вернётся.
На других языках
Предсказание и один шаг обучения в других местах:
// JavaScript
const predict = (w, b, x) => 1 / (1 + Math.exp(-(x.reduce((s, v, i) => s + v * w[i], 0) + b)));
function step(w, b, row, lr) {
const err = predict(w, b, row.x) - row.y;
return [w.map((wi, i) => wi - lr * err * row.x[i]), b - lr * err];
}// C#
double Predict(double[] w, double b, double[] x) {
double z = b;
for (int i = 0; i < x.Length; i++) z += w[i] * x[i];
return 1.0 / (1.0 + Math.Exp(-z));
}Итоги
- Классификатор учится поведению трекеров, поэтому может помечать трекеры, которых ещё нет ни в одном списке.
- Логистическая регрессия: взвесьте признаки, сожмите сигмоидой, подвиньте веса на ошибку.
- Оценивайте её по precision и recall на строках, на которых она не обучалась.
- Она усваивает взгляд меток на мир, включая ошибки.
Напишите три функции на чистом Python:
predict(weights, bias, x): сигмоида1 / (1 + math.exp(-z))отz = sum(weights[i] * x[i]) + bias.train(rows, epochs=100, lr=0.5): начните с нулевых весов (по одному на признак) и смещения 0.0; в каждой эпохе для каждой строки по порядку вычислитеerror = predict(...) - row["y"], затем измените каждый вес на- lr * error * x[i], а смещение на- lr * error. Верните(weights, bias).precision_recall(weights, bias, rows, threshold=0.5): помечайте строку, когда предсказание не меньше порога; верните(precision, recall), используя 0.0, когда было бы деление на ноль. (Соглашения различаются: блокировщик, который ничего не пометил, не дал ложных тревог, и некоторые считают такую precision равной 1.0. Оба варианта защитимы; отчёт должен говорить, какой использован.)
weights, bias по data["train"] и test_precision, test_recall на data["test"]. Тесты оценивают вашу модель на смоделированном вебе, которого она не видела: не меньше 0.80 для обоих.
Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке
Это упражнение откроется скоро
Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.
Этот браузер блокирует cookies для learn.floati.life, поэтому завершенные здесь уроки не могут открыться по порядку. Разрешите cookies для этого сайта и перезагрузите страницу.