Cara Model Belajar
A jaringan baru punya bobot acak dan tidak berguna. Training adalah proses mendorong bobot tersebut sampai outputnya bagus. Dua ide menggerakkannya.
1. Fungsi kerugian mengukur kesalahan
Kamu butuh satu angka untuk menunjukkan seberapa buruk prediksi tersebut. Untuk regresi, yang biasa digunakan adalah mean squared error (MSE): rata-rata dari selisih kuadrat antara nilai asli dan prediksi.
def mse(y_true, y_pred):
diffs = np.asarray(y_true) - np.asarray(y_pred)
return float(np.mean(diffs ** 2))Squaring menghukum kesalahan besar lebih berat dan menjaga semuanya tetap positif. Loss yang lebih rendah lebih baik; loss nol berarti kecocokan yang sempurna.
2. Gradient descent meluncur ke bawah
Bayangkan loss sebagai permukaan berbukit dan weights sebagai posisimu di sana. gradient adalah kemiringannya: ia menunjuk ke atas, menuju loss yang lebih besar. Jadi untuk mengurangi loss, kamu mengambil langkah kecil ke arah opposite.
w = w - learning_rate * gradientLaju learning rate adalah ukuran langkah. Ulangi ini ribuan kali dan bobot akan turun menuju lembah loss yang rendah. Loop itu adalah semua yang ada dalam pelatihan.
Untuk model mainan y = w * x dengan MSE, gradien loss terhadap w hasilnya adalah mean(2 * (w*x - y) * x). Kamu akan mengambil tepat satu langkah dan melihat loss turun.
Dari satu bobot ke seluruh jaringan
Jaringan dua lapis yang kamu buat di pelajaran terakhir punya banyak bobot, bukan cuma satu. Melatihnya berarti mencari gradien dari loss terhadap setiap bobot, lapis demi lapis. Itu adalah backpropagation: mulai dari loss dan terapkan chain rule ke belakang melalui setiap lapis untuk mendapatkan kemiringan setiap bobot, lalu ambil langkah turun yang sama pada semuanya sekaligus. Aritmatikanya lebih berat, tapi idenya identik dengan satu langkah yang kamu ambil di bawah. Di kode asli kamu tidak pernah menghitungnya manual: framework seperti PyTorch mencatat forward pass dan satu loss.backward() call menghitung setiap gradien untukmu. Kita melakukan versi satu bobot di sini supaya mekanismenya tetap konkret.
Implement mse(y_true, y_pred) (rata-rata selisih kuadrat). Lalu, untuk model mainan y = w * x, hitung loss_before, lakukan satu langkah gradient-descent menggunakan grad = np.mean(2 * (w*x - y) * x) dan w = w - lr * grad, kemudian hitung loss_after. Loss harus turun.
Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini
Latihan ini akan segera dibuka
Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.
Browser ini memblokir cookie untuk learn.floati.life, jadi pelajaran yang sudah kamu selesaikan di sini tidak bisa dibuka berurutan. Izinkan cookie untuk situs ini dan muat ulang.