سرفصل‌ها درس 93 از 250 · اولین مدل‌های یادگیری ماشین شما
اولین مدل‌های یادگیری ماشین شما

رگرسیون بر داده‌های نویزی

در درس قبلی شما خطی را بر داده‌ها برازش کردید که خطی بی‌نقص بود (y = 2x) و خطا برابر صفر شد. این حس فوق‌العاده‌ای بود، اما نوعی دروغ بود: داده‌های واقعی هرگز خطی تمیز نیستند. سنسورها می‌لرزند، مردم رفتار غیرقابل‌پیش‌بینی دارند، اندازه‌گیری‌ها گرد می‌شوند. نسخه صادقانه رگرسیون این است که خطی را از میان ابر نقاطی عبور دهید که تنها به‌طور تقریبی از یک روند پیروی می‌کند، و سپس گزارش دهید که هنوز چقدر با آن فاصله دارید. این درس درباره خواندن آن اعداد خطا بدون واهمه است.

ایجاد داده‌های واقع‌بینانه

ما از یک رابطه واقعی شروع می‌کنیم، y = 3x + 7، و سپس نویز گاوسی اضافه می‌کنیم -> نوسانات تصادفی کوچک برداشت‌شده از یک منحنی زنگوله‌ای -> بنابراین هیچ نقطه‌ای دقیقاً روی خط قرار نمی‌گیرد:

rng = np.random.RandomState(42)
x = np.linspace(0, 10, 200)
noise = rng.normal(0, 2.0, size=x.shape)   # mean 0, spread 2.0
y = 3 * x + 7 + noise
X = x.reshape(-1, 1)                        # sklearn wants 2-D features

بذره ثابت به این معنی است که همه از یک نویز یکسان استفاده می‌کنند، بنابراین اعداد زیر قابل بازتولید و بررسی هستند. مدل هرگز شیب واقعی ۳ یا مقدار مداخله ۷ را نمی‌بیند؛ وظیفه‌اش بازیابی آن‌ها از روی نقاط نویزی است.

برازش، پیش‌بینی و اندازه‌گیری صادقانه

روند همیشگی است، اما ما بر اساس یک مجموعه آزمون کنار گذاشته شده نمره می‌دهیم:

from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression
from sklearn.metrics import mean_absolute_error, r2_score

X_train, X_test, y_train, y_test = train_test_split(
    X, y, test_size=0.2, random_state=0)
model = LinearRegression().fit(X_train, y_train)
preds = model.predict(X_test)
mae = mean_absolute_error(y_test, preds)
r2  = r2_score(y_test, preds)

معنای اعداد

  • خط بازیابی‌شده. model.coef_[0] نزدیک ۳ بیرون می‌آید و model.intercept_ نزدیک به ۷. مدل روند واقعی را از زیر نویز بیرون کشید، اما نه به‌طور کامل: به آن نزدیک است، نه دقیق.
  • MAE دیگر صفر نیست. در اینجا تقریباً ۱.۸ است، به این معنی که یک پیش‌بینی معمولی مقدار واقعی را حدود ۱.۸ در yواحدهای آن. این یک اشکال نیست. با وجود نویز با پراکندگی 2.0 در مدل، مقداری خطا اجتناب‌ناپذیر است -> MAE مثبت، هزینه واقعی داده‌ها را نشان می‌دهد. این را با خط کامل و بی‌نقص قبلی مقایسه کنید که در آن MAE به دلیل ساختار مدل تقریباً 0 بود.
  • R^2 زیر ۱ قرار دارد. r2_score این معیار، کسری از واریانس را که مدل توضیح می‌دهد، اندازه‌گیری می‌کند: عدد ۱.۰ نشانگر کمال و عدد ۰ نشان می‌دهد که مدل از حدس زدن میانگین بهتر عمل نمی‌کند. در اینجا این مقدار حدود ۰.۹۵ است -> که بالا است، زیرا یک سیگنال خطی قوی وجود دارد، اما دقیقاً کمتر از ۱.۰ است، زیرا نویز هرگز نمی‌تواند توضیح داده شود. گزارش R^2 دقیقاً برابر با 1.0 روی داده‌های واقعی یک زنگ خطر است، که معمولاً نشان می‌دهد شما به طور تصادفی روی داده‌های آموزشی آزمایش کرده‌اید.
  • بقایای خطا به شما می‌گویند که آیا خطا منصفانه است یا خیر. یک باقیمانده actual - predicted برای یک نقطه. میانگین آن‌ها باید نزدیک به ۰ باشد: این نشان می‌دهد که مدل به طور سیستماتیک بیش از حد یا کم‌تر از حد تخمین نمی‌زند، بلکه درست همان‌طور که نویز متقارن باید باشد، به صورت تصادفی در بالا و پایین خط پراکنده می‌شود. میانگین باقیمانده‌ها که از ۰ دور باشد، به معنای یک مدل دارای سوگیری است.

بنابراین، خروجی مورد انتظار در اینجا مجموعه‌ای از اعداد واقعی است، نه یک عدد صفر جادویی. دکمه Run را فشار دهید تا خط را برازش کرده و شیب به دست آمده، خطای میانگین مربعات (MAE)، ضریب R^2 و میانگین باقیمانده‌ها را چاپ کند.

نوبت شما

داده‌های نویزی را از y = 3x + 7 به‌علاوه نویز گاوسی (rng = np.random.RandomState(42), x = np.linspace(0, 10, 200), noise = rng.normal(0, 2.0, size=x.shape), X = x.reshape(-1, 1)). تقسیم با train_test_split(X, y, test_size=0.2, random_state=0)، برازش دهید LinearRegression به‌عنوان model، بر روی مجموعهٔ آزمون پیش‌بینی کنید، سپس ذخیره کنید mae (میانگین مطلق خطا)، r2 (r2_score)، و resid_mean (میانگین y_test - preds) به صورت اعداد اعشاری ذخیره کنید.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.