Lehrplan Lektion 106 von 250 · Neural-Net Intuition, LLMs & KI Capstone
Neural-Net Intuition, LLMs & KI Capstone

Trainiere ein Modell mit deiner Engine

Du hast die autograd engine gebaut. Nutze sie jetzt, um learn zu lernen, die Schleife, die jedes neuronale Netzwerk trainiert. Die Value class ist gegeben (sie umschließt jetzt auch einfache Zahlen, also funktioniert w * x, wenn x ein float ist). Dein Job ist die training loop.

Passe ein einzelnes Gewicht w an, damit w * x y vorhersagt. Ein Schritt von gradient descent sind immer die gleichen Bewegungen:

w = Value(0.0)
for step in range(steps):
    loss = Value(0.0)
    for x, y in zip(xs, ys):
        diff = w * x + (-y)          # prediction minus target
        loss = loss + diff * diff    # squared error, summed
    w.grad = 0.0                     # 1) reset the gradient
    loss.backward()                  # 2) backprop to fill w.grad
    w.data -= lr * w.grad            # 3) step downhill

Zwei einfache Fehler: nullen den gradient vor jedem backward() oder alte Gradienten stapeln sich auf (backward nutzt +=); und subtrahieren lr * w.grad um bergab zu gehen, nicht addieren. Über genug steps w gleitet zum Wert, der den loss minimiert, die Linie der besten Anpassung.

Schreibe fit(xs, ys, steps, lr) beginnend bei w = Value(0.0) und gib das finale w.data zurück. Drücke Run um zu sehen wie es y = 2x lernt.

Du bist dran

Schreibe fit(xs, ys, steps, lr), das zu einem Gewicht w (Start Value(0.0)) durch Gradientenabstieg passt, damit w * x y vorhersagt. Jeder Schritt: Baue loss als die summierten quadratischen Fehler mit Value Ops, setze w.grad = 0.0, loss.backward(), dann w.data -= lr * w.grad. Gib das finale w.data zurück. Die Value Klasse ist bereitgestellt.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.