Kurrikulum Leson 93 van 250 · Jou eerste Masjienleer-modelle
Jou eerste Masjienleer-modelle

Regressie op Ruisagtige Data

In 'n vroeëre les het jy 'n lyn by data pas wat 'n perfekte lyn was (y = 2x) en die fout was nul. Dit het goed gevoel, maar dit was 'n soort leuen: regte data is nooit 'n skoon lyn nie. Sensors wankel, mense optree onvoorspelbaar, metings word afgerond. Die eerlike weergawe van regressie is om 'n lyn deur 'n cloud van punte te pas wat net ongeveer 'n neiging volg, en dan te rapporteer hoe ver jy nog af is. Hierdie les gaan oor die lees van daardie foutnommers sonder om te skrik.

Maak realistiese data

Ons begin by 'n ware verhouding, y = 3x + 7, en voeg dan gaussian noise -> klein willeke wippele uit 'n klokkurwe -> so sit geen punt presies op die lyn nie:

rng = np.random.RandomState(42)
x = np.linspace(0, 10, 200)
noise = rng.normal(0, 2.0, size=x.shape)   # mean 0, spread 2.0
y = 3 * x + 7 + noise
X = x.reshape(-1, 1)                        # sklearn wants 2-D features

Die vaste seed beteken almal trek dieselfde geraas, so die getalle hieronder is herhaalbaar en kan nagekontroleer word. Die model sien nooit die ware helling van 3 of ondersneeing van 7 nie; sy werk is om recover hulle vanaf die geraasagtige punte te kry.

Pas, voorspel en meet eerlik

Dieselfde ritueel as altyd, maar ons gradeer op 'n gehoue toetseset:

from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression
from sklearn.metrics import mean_absolute_error, r2_score

X_train, X_test, y_train, y_test = train_test_split(
    X, y, test_size=0.2, random_state=0)
model = LinearRegression().fit(X_train, y_train)
preds = model.predict(X_test)
mae = mean_absolute_error(y_test, preds)
r2  = r2_score(y_test, preds)

Wat die nommers beteken

  • Die hergestelde lyn. model.coef_[0] kom naby 3 uit en model.intercept_ naby 7. Die model het die werklike neiging uit die geraas uitgegra, maar nie perfek nie: dit land naby, nie presies nie.
  • MAE is nie meer nul nie. Hier is dit ongeveer 1.8, wat beteken 'n tipiese voorspelling mis die ware waarde met ongeveer 1.8 in y se eenhede. Dit is nie 'n bug nie. Met geraas van spreiding 2.0 ingebou, is 'n fout onvermydelik -> 'n positiewe MAE is die eerlike koste van werklike data. Vergelyk dit met die perfekte lyn vroeër, waar MAE by konstruksie ~0 was.
  • R squared sit onder 1.. r2_score meet die fraksie van die variasie wat die model verduidelik: 1.0 is perfek, 0 is nie beter as om die gemiddelde te raai nie. Hier is dit rondom 0.95 -> hoog, omdat daar 'n sterk lineêre sein is, maar streng onder 1.0, omdat geraas nooit verduidelik kan word nie. 'n Gerapporteerde R squared van presies 1.0 op werklike data is 'n rooi vlag, gewoonlik 'n teken dat jy per ongeluk op die training data getoets het.
  • Residus vertel jou of die fout regverdel is. 'n Residu is actual - predicted vir een punt. Hulle mean moet naby 0 wees: dit sê die model skiet nie sistematies oor of onder nie, dit versprei net bo en onder die lyn soos simmetriese geraas moet. 'n Residu-gemiddelde ver van 0 beteken 'n bevooroorde model.

So die produk hier is 'n stel eerlike nommers, nie 'n tower-nul nie. Druk Run om die lyn te pas en die herwinne slope, die MAE, die R squared en die residual mean te druk.

Jou beurt

Bou raserige data vanaf y = 3x + 7 plus gaussiese geraas (rng = np.random.RandomState(42), x = np.linspace(0, 10, 200), noise = rng.normal(0, 2.0, size=x.shape), X = x.reshape(-1, 1)). Verdeel met train_test_split(X, y, test_size=0.2, random_state=0), pas 'n LinearRegression as model aan, voorspel op die toetsverzameling, en stoor dan mae (mean absolute error), r2 (r2_score), en resid_mean (the mean of y_test - preds) as floats.

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.