Регрессия на зашумленных данных
В предыдущем уроке вы подогнали линию к данным, которые были идеальной линией (y = 2x), и ошибка составила ноль. Это было приятно, но это было своего рода обманом: реальные данные никогда не бывают чистой линией. Датчики дрожат, люди ведут себя непредсказуемо, измерения округляются. Честная версия регрессии это подгонка линии через cloud точек, которые лишь примерно следуют тренду, и затем отчет о том, насколько далеко вы все еще находитесь от цели. Этот урок посвящен чтению этих чисел ошибки без колебаний.
Создание реалистичных данных
Мы начинаем с истинной зависимости, y = 3x + 7, а затем добавляем gaussian noise -> небольшие случайные колебания из колоколообразной кривой -> так что ни одна точка не лежит точно на линии:
rng = np.random.RandomState(42)
x = np.linspace(0, 10, 200)
noise = rng.normal(0, 2.0, size=x.shape) # mean 0, spread 2.0
y = 3 * x + 7 + noise
X = x.reshape(-1, 1) # sklearn wants 2-D featuresФиксированный seed означает, что все получают один и тот же шум, поэтому числа ниже воспроизводимы и проверяемы. Модель никогда не видит истинный наклон 3 или точку пересечения 7; ее задача это recover из зашумленных точек.
Обучайте, предсказывайте и измеряйте честно
Тот же ритуал, что и всегда, но мы оцениваем на отложенном тестовом наборе:
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression
from sklearn.metrics import mean_absolute_error, r2_score
X_train, X_test, y_train, y_test = train_test_split(
X, y, test_size=0.2, random_state=0)
model = LinearRegression().fit(X_train, y_train)
preds = model.predict(X_test)
mae = mean_absolute_error(y_test, preds)
r2 = r2_score(y_test, preds)Что значат эти числа
- Восстановленная строка.
model.coef_[0]оказывается около 3, аmodel.intercept_около 7. Модель извлекла реальный тренд из шума, но не идеально: результат близок, но не точный. - MAE больше не равна нулю. Здесь она составляет примерно 1.8, что значит, что типичный прогноз ошибается на около 1.8 в единицах
y. Это не баг. С учетом встроенного шума разбросом 2.0 какая-то ошибка неизбежна -> положительный MAE это честная цена реальных данных. Сравните с идеальной линией ранее, где MAE был около 0 по построению. - R squared находится ниже 1.
r2_scoreизмеряет долю вариации, которую объясняет модель: 1.0 это идеально, 0 это не лучше, чем угадывание среднего. Здесь это около 0.95 -> высоко, потому что есть сильный линейный сигнал, но строго ниже 1.0, потому что шум никогда нельзя полностью объяснить. Сообщенный R squared ровно 1.0 на реальных данных это тревожный сигнал, обычно признак того, что вы случайно протестировали на тренировочных данных. - Остатки говорят вам, справедлива ли ошибка. Остаток это
actual - predictedдля одной точки. Их mean должен быть около 0: это значит, что модель не систематически завышает или занижает значения, а просто разбрасывает их выше и ниже линии так, как должен симметричный шум. Среднее значение остатков далеко от 0 означало бы смещенную модель.
Итак, результатом здесь является набор честных чисел, а не магический ноль. Нажмите Run, чтобы подогнать линию и вывести полученный slope, MAE, R squared и residual mean.
Создайте шумные данные из y = 3x + 7 плюс гауссовский шум (rng = np.random.RandomState(42), x = np.linspace(0, 10, 200), noise = rng.normal(0, 2.0, size=x.shape), X = x.reshape(-1, 1)). Разделите с помощью train_test_split(X, y, test_size=0.2, random_state=0), обучите LinearRegression как model, сделайте предсказание на тестовом наборе, затем сохраните mae (mean absolute error), r2 (r2_score) и resid_mean (среднее значение y_test - preds) как floats.
Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке
Это упражнение откроется скоро
Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.
Этот браузер блокирует cookies для learn.floati.life, поэтому завершенные здесь уроки не могут открыться по порядку. Разрешите cookies для этого сайта и перезагрузите страницу.