पाठ्यक्रम 250 में से पाठ 106 · Neural-net की समझ, LLMs और AI कैपस्टोन
Neural-net की समझ, LLMs और AI कैपस्टोन

अपने engine से एक मॉडल train करें

आपने autograd engine बनाया। अब इसे सचमुच सीखने के लिए इस्तेमाल करें, वह loop जो हर neural network को train करता है। Value क्लास दी गई है (यह अब सादी संख्याएँ भी लपेटती है, इसलिए x एक float होने पर w * x काम करता है)। आपका काम training loop है।

एक अकेला भार w fit करें ताकि w * x y का अनुमान लगाए। gradient descent का एक क़दम हमेशा वही चालें है:

w = Value(0.0)
for step in range(steps):
    loss = Value(0.0)
    for x, y in zip(xs, ys):
        diff = w * x + (-y)          # prediction minus target
        loss = loss + diff * diff    # squared error, summed
    w.grad = 0.0                     # 1) reset the gradient
    loss.backward()                  # 2) backprop to fill w.grad
    w.data -= lr * w.grad            # 3) step downhill

दो आसान ग़लतियाँ: हर backward() से पहले gradient शून्य करें नहीं तो पुराने gradients जमा होते हैं (backward += इस्तेमाल करता है); और नीचे जाने के लिए lr * w.grad घटाएँ, जोड़ें नहीं। काफ़ी क़दमों में w उस मान तक खिसकता है जो loss न्यूनतम करता है, सबसे अच्छी fit वाली रेखा।

fit(xs, ys, steps, lr) लिखें जो w = Value(0.0) से शुरू हो, आख़िरी w.data लौटाते हुए। इसे y = 2x सीखते देखने के लिए Run दबाएँ।

आपकी बारी

fit(xs, ys, steps, lr) लिखें जो gradient descent से एक भार w (Value(0.0) से शुरू) fit करे ताकि w * x y का अनुमान लगाए। हर क़दम: Value क्रियाओं से जोड़ी वर्ग त्रुटि के रूप में loss बनाएँ, w.grad = 0.0 सेट करें, loss.backward(), फिर w.data -= lr * w.grad। आख़िरी w.data लौटाएँ। Value क्लास दी गई है।

इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें

यह अभ्यास जल्द खुलेगा

इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।