Regressione su dati rumorosi
In una lezione precedente hai adattato una retta a dati che erano una retta perfetta (y = 2x) e l'errore è venuto zero. Bella sensazione, ma in un certo senso era una bugia: i dati reali non sono mai una retta pulita. I sensori tremolano, le persone si comportano in modo imprevedibile, le misure vengono arrotondate. La versione onesta della regressione è adattare una retta a una nuvola di punti che segue solo a grandi linee una tendenza, e poi riportare di quanto sbagli ancora. Questa lezione parla di come leggere quei numeri di errore senza battere ciglio.
Creare dati realistici
Partiamo da una relazione vera, y = 3x + 7, e poi aggiungiamo del rumore gaussiano -> piccoli scarti casuali presi da una curva a campana -> così nessun punto sta esattamente sulla retta:
rng = np.random.RandomState(42)
x = np.linspace(0, 10, 200)
noise = rng.normal(0, 2.0, size=x.shape) # mean 0, spread 2.0
y = 3 * x + 7 + noise
X = x.reshape(-1, 1) # sklearn wants 2-D featuresIl seme fisso significa che tutti estraggono lo stesso rumore, quindi i numeri qui sotto sono riproducibili e verificabili. Il modello non vede mai la vera pendenza 3 né l'intercetta 7; il suo compito è ritrovarle dai punti rumorosi.
Fit, predict, e misura onesta
Stesso rituale di sempre, ma valutiamo su un insieme di test tenuto da parte:
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression
from sklearn.metrics import mean_absolute_error, r2_score
X_train, X_test, y_train, y_test = train_test_split(
X, y, test_size=0.2, random_state=0)
model = LinearRegression().fit(X_train, y_train)
preds = model.predict(X_test)
mae = mean_absolute_error(y_test, preds)
r2 = r2_score(y_test, preds)Che cosa significano i numeri
- La retta ritrovata.
model.coef_[0]viene vicino a 3 emodel.intercept_vicino a 7. Il modello ha scavato la vera tendenza da sotto il rumore, ma non alla perfezione: arriva vicino, non esatto. - Il MAE non è più zero. Qui vale circa 1.8, cioè una previsione tipica manca il valore vero di circa 1.8 nelle unità di
y. Non è un bug. Con un rumore di dispersione 2.0 incorporato, un po' di errore è inevitabile -> un MAE positivo è il prezzo onesto dei dati reali. Confrontalo con la retta perfetta di prima, dove il MAE era ~0 per costruzione. - R quadro resta sotto 1.
r2_scoremisura la frazione della variazione che il modello spiega: 1.0 è perfetto, 0 non è meglio che indovinare la media. Qui vale circa 0.95 -> alto, perché c'è un forte segnale lineare, ma strettamente sotto 1.0, perché il rumore non si può mai spiegare via. Un R quadro di esattamente 1.0 su dati reali è un campanello d'allarme, di solito il segno che hai testato per sbaglio sui dati di addestramento. - I residui ti dicono se l'errore è equo. Un residuo è
actual - predictedper un punto. La loro media dovrebbe stare vicino a 0: significa che il modello non sta sistematicamente esagerando o restando corto, ma si limita a sparpagliarsi sopra e sotto la retta come dovrebbe fare un rumore simmetrico. Una media dei residui lontana da 0 indicherebbe un modello distorto.
Quindi il risultato qui è un insieme di numeri onesti, non uno zero magico. Premi Run per adattare la retta e stampare la pendenza ritrovata, il MAE, l'R quadro e la media dei residui.
Costruisci dati rumorosi da y = 3x + 7 più rumore gaussiano (rng = np.random.RandomState(42), x = np.linspace(0, 10, 200), noise = rng.normal(0, 2.0, size=x.shape), X = x.reshape(-1, 1)). Dividi con train_test_split(X, y, test_size=0.2, random_state=0), addestra un LinearRegression come model, fai predict sull'insieme di test, poi salva come float mae (errore assoluto medio), r2 (r2_score), e resid_mean (la media di y_test - preds).
Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione
Questo esercizio si apre presto
Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.
Questo browser blocca i cookie per learn.floati.life, quindi le lezioni che hai finito qui non si possono aprire in ordine. Consenti i cookie per questo sito e ricarica.