シラバス レッスン 250 中 93 · はじめての機械学習モデル
はじめての機械学習モデル

ノイズのあるデータでの回帰

前のレッスンでは、完全な直線(y = 2x)になっているデータに直線を当てはめ、誤差は 0 になりました。気分はいいものでしたが、ある意味うそでした:実際のデータがきれいな直線になることはありません。センサーはぶれ、人は予測できないふるまいをし、測定値は丸められます。正直な回帰とは、傾向にざっくり従うだけの点の雲に直線を当てはめ、それでもどれくらい外れているかを報告することです。このレッスンは、そうした誤差の数字をひるまずに読むためのものです。

現実的なデータを作る

真の関係 y = 3x + 7 から始め、ガウスノイズ -> ベル型の曲線から引いた小さなランダムな揺らぎ -> を加えるので、ちょうど直線の上に乗る点はありません:

rng = np.random.RandomState(42)
x = np.linspace(0, 10, 200)
noise = rng.normal(0, 2.0, size=x.shape)   # mean 0, spread 2.0
y = 3 * x + 7 + noise
X = x.reshape(-1, 1)                        # sklearn wants 2-D features

seed を固定しているので誰もが同じノイズを引き、以下の数字は再現でき、確かめられます。モデルは真の傾き 3 も切片 7 も見ることはありません。その仕事は、ノイズのある点からそれらを取り戻すことです。

fit し、予測し、正直に測る

いつもと同じ儀式ですが、取っておいたテスト用データで採点します:

from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression
from sklearn.metrics import mean_absolute_error, r2_score

X_train, X_test, y_train, y_test = train_test_split(
    X, y, test_size=0.2, random_state=0)
model = LinearRegression().fit(X_train, y_train)
preds = model.predict(X_test)
mae = mean_absolute_error(y_test, preds)
r2  = r2_score(y_test, preds)

数字の意味

  • 取り戻した直線。model.coef_[0] は 3 の近くに、model.intercept_ は 7 の近くになります。モデルはノイズの下から本物の傾向を掘り出しましたが、完璧ではありません:近くに着地しますが、ぴったりではありません。
  • MAE はもう 0 ではない。ここではおよそ 1.8 で、典型的な予測は y の単位で真の値からおよそ 1.8 外れるということです。これはバグではありません。広がり 2.0 のノイズが組み込まれている以上、いくらかの誤差は避けられません -> 正の MAE は実際のデータに対する正直な代償です。構造上 MAE が ~0 だった、先ほどの完全な直線と比べてみてください。
  • R 二乗は 1 を下回る。r2_score はモデルが説明する変動の割合を測ります:1.0 が完璧で、0 は平均を当てずっぽうに答えるのと変わりません。ここではおよそ 0.95 -> 強い線形の信号があるので高いのですが、ノイズはどうやっても説明しきれないので、厳密に 1.0 未満です。実際のデータで R 二乗がちょうど 1.0 と報告されたら危険信号で、たいていはうっかり学習用データでテストした印です。
  • 残差は外れ方が公平かどうかを教えてくれる。残差は 1 つの点についての actual - predicted です。その平均は 0 の近くになるはずです:それはモデルが系統的に高すぎたり低すぎたりしておらず、対称なノイズらしく直線の上下に散らばっているだけだということです。残差の平均が 0 から遠ければ、偏ったモデルだということです。

だからここでの成果物は、魔法の 0 ではなく正直な数字の組です。実行を押して直線を当てはめ、取り戻した傾き、MAE、R 二乗、残差の平均を出力しましょう。

あなたの番

y = 3x + 7 にガウスノイズを加えてノイズのあるデータを作ってください(rng = np.random.RandomState(42)、x = np.linspace(0, 10, 200)、noise = rng.normal(0, 2.0, size=x.shape)、X = x.reshape(-1, 1))。train_test_split(X, y, test_size=0.2, random_state=0) で分割し、model として LinearRegression を fit し、テスト用データで予測してから、mae(平均絶対誤差)、r2(r2_score)、resid_mean(y_test - preds の平均)を float として保存してください。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。