Müfredat 250 dersinden 100. · Neural-Net Sezgisi, LLM'ler ve Yapay Zeka Bitirme Projesi
Neural-Net Sezgisi, LLM'ler ve Yapay Zeka Bitirme Projesi

İki Katmanlı İleri Geçiş

Bir nöron bir çizgidir. Bunlardan bir layer üst üste koy, bir doğrusal olmayanlık ekle, sonra bunu başka bir katmana aktar, böylece ağ hemen hemen her şeye uyum sağlayacak şekilde bükülebilir. Çıktı almak için veriyi katmanlardan geçirmeye forward pass denir.

A katmanı sadece bir matris çarpımıdır: ağırlık matrisinin her sütunu bir nöronun ağırlıklarıdır. numpy ile tüm katman x @ W + b (@ operatörü matris çarpımıdır).

Katmanlar arasına doğrusal olmayan bir aktivasyon uyguluyoruz. Modern ağlar ReLU (Rectified Linear Unit) fonksiyonunu tercih eder, bu sadece max(0, z): pozitifleri tut, negatifleri sıfırla demektir. Doğrusal olmayan bir fonksiyon olmadan, katmanları üst üste eklemek tek bir satıra dönüşür.

import numpy as np

def relu(z):
    return np.maximum(0, z)

h = relu(x @ W1 + b1)   # hidden layer
out = h @ W2 + b2       # output layer

Bunu burada neden numpy ile yapıyoruz

Bunun gerçek frameworkleri TensorFlow ve PyTorch. Bunlar bu derste çalışamaz: Pyodide, tarayıcında WebAssembly olarak derlenmiş CPython'dur ve bu kütüphaneler WebAssembly derlemesi olmayan ağır yerel C++ ve CUDA/GPU kodu içerir. Bu yüzden birkaç satır numpy ile intuition elde ederiz, ki bu aslında arka planda bir forward pass'in tam olarak karşılığıdır. Frameworkler autograd, GPU ve ölçeklenebilirlik ekler, bu adım hakkında yeni fikirler değil.

Şekilleri izle: 3 uzunluğunda bir girdi, 3x4 ağırlık matrisi üzerinden 4 gizli değer verir; bu da 4x1 matrisi üzerinden tek bir çıktıya dönüşür.

Senin sıran

İleri geçişi bitir. relu(z) değerini np.maximum ile yaz, sonra verilen ağırlıkları kullanarak gizli katman h = relu(x @ W1 + b1) ve çıktı out = h @ W2 + b2 değerlerini hesapla.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.