Silabus Pelajaran 106 dari 250 · Intuisi Neural-Net, LLM & Capstone AI
Intuisi Neural-Net, LLM & Capstone AI

Latih Model dengan Engine Kamu

Kamu sudah membangun engine autograd. Sekarang gunakan itu untuk benar-benar belajar, loop yang melatih setiap neural network. Class Value sudah diberikan (sekarang juga membungkus angka biasa, jadi w * x berfungsi saat x adalah float). Tugasmu adalah training loop.

Sesuaikan satu bobot w agar w * x memprediksi y. Satu langkah gradient descent selalu langkah yang sama:

w = Value(0.0)
for step in range(steps):
    loss = Value(0.0)
    for x, y in zip(xs, ys):
        diff = w * x + (-y)          # prediction minus target
        loss = loss + diff * diff    # squared error, summed
    w.grad = 0.0                     # 1) reset the gradient
    loss.backward()                  # 2) backprop to fill w.grad
    w.data -= lr * w.grad            # 3) step downhill

Dua kesalahan mudah: nolkan gradient sebelum setiap backward() atau gradient lama menumpuk (backward menggunakan +=); dan kurangi lr * w.grad untuk turun, bukan tambah. Setelah cukup banyak langkah w bergeser ke nilai yang meminimalkan loss, garis kecocokan terbaik.

Tulis fit(xs, ys, steps, lr) mulai dari w = Value(0.0), lalu kembalikan w.data terakhir. Tekan Run untuk melihatnya mempelajari y = 2x.

Giliranku

Tulis fit(xs, ys, steps, lr) yang sesuai dengan bobot w (mulai Value(0.0)) dengan gradient descent supaya w * x memprediksi y. Setiap langkah: buat loss sebagai jumlah kuadrat kesalahan dengan operasi Value, atur w.grad = 0.0, loss.backward(), lalu w.data -= lr * w.grad. Kembalikan w.data terakhir. Kelas Value sudah disediakan.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.