سرفصل‌ها درس 100 از 250 · شهود شبکه عصبی، LLMها و پروژه پایانی هوش مصنوعی
شهود شبکه عصبی، LLMها و پروژه پایانی هوش مصنوعی

یک گذر رو به جلو دو لایه

یک نورون یک خط است. یک را انباشته کنید لایه از آن‌ها یک غیرخطی اضافه کنید، سپس آن را به لایهٔ بعدی وارد کنید و شبکه می‌تواند خود را خم کند تا تقریباً با هر چیزی مطابقت یابد. عبور دادن داده‌ها از لایه‌ها برای به‌دست‌آوردن خروجی، «داده‌کشی» نامیده می‌شود. پاس رو به جلو.

یک لایه صرفاً یک ضرب ماتریسی است: هر ستون از ماتریس وزن‌ها، وزن‌های یک نورون است. با numpy، کل لایه است x @ W + b (the @ عملگر عبارت است از ضرب ماتریسی).

بین لایه‌ها یک فعال‌سازی غیرخطی اعمال می‌کنیم. شبکه‌های عصبی مدرن ترجیح می‌دهند ReLU (واحد خطی اصلاح‌شده)، که به سادگی max(0, z)مقادیر مثبت را حفظ کنید و مقادیر منفی را به صفر برسانید. بدون غیرخطی‌سازی، انباشت لایه‌ها دوباره به یک خط واحد فرو می‌ریزد.

import numpy as np

def relu(z):
    return np.maximum(0, z)

h = relu(x @ W1 + b1)   # hidden layer
out = h @ W2 + b2       # output layer

چرا ما اینجا در numpy این کار را انجام می‌دهیم

چارچوب‌های واقعی برای این عبارتند از تنسورفلو و پایتورچآنها نمی‌توانند در این درس اجرا شوند: Pyodide همان CPython است که در مرورگر شما به WebAssembly کامپایل می‌شود، و آن کتابخانه‌ها کد سنگین بومی C++ و CUDA/GPU را حمل می‌کنند که هیچ ساخت WebAssembly ندارند. بنابراین ما به دست می‌آوریم شهود با چند خط نومپای، که دقیقاً همان چیزی است که در زیر کاپوت به آن forward pass گفته می‌شود. فریم‌ورک‌ها autograd، GPUها و مقیاس را اضافه می‌کنند، نه ایده‌های جدیدی دربارهٔ این مرحله.

شکل‌ها را ببینید: یک ورودی با طول ۳ با عبور از ماتریس وزن ۳×۴، ۴ مقدار مخفی تولید می‌کند؛ با عبور از ماتریس ۴×۱، به یک خروجی واحد تبدیل می‌شود.

نوبت شما

ارسال رو به جلو را تمام کنید. بنویسید relu(z) با np.maximum، سپس لایه مخفی را محاسبه کنید h = relu(x @ W1 + b1) و خروجی out = h @ W2 + b2 با استفاده از وزن‌های ارائه‌شده.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.