Sinir Ağları: Nörondan Transformer'a
Sinir ağlarını tek bir nörondan transformer'a kadar kendin kur, sonra üretken modeller, difüzyon, ölçekleme yasaları ve bir modelin içine bakmak; düz Python ve NumPy ile, tarayıcında eğitilerek. Kendi autograd'ını yaz, bozuk çalıştırmaları teşhis et, iddiaları kanıta göre değerlendir ve yeniden oynatabileceğin bir bitirme projesiyle tamamla. Ücretsiz, hesap gerekmez.
Bu sekmede Real Python ve NumPy hazır.
Kurulum yok, hesap yok, ayar yok. Bu kurstaki her ağ kendi cihazında eğitilir ve yazdığın hiçbir şey dışarı çıkmaz. Modül 1 ihtiyacın olan Python ve NumPy bilgilerini tazeler. Zaten hakim misin? Son dersi önce geçebileceğin kısa bir kapıdır: geçersen kurs seni doğrudan devam ettirir.
Günlük tekrar
Aralıklı tekrar, öğrendiklerinin unutulmasını engeller.
Modül 0: Başlangıç çizgisi
Şunları yapabileceksin: kursun nasıl işlediğini ve neyi ölçtüğünü söylemek; bir tahmin yapıp bir çalıştırmayla karşılaştırmak; dört kadrandaki başlangıç puanını kaydetmek; cihazının hızını FLOP cinsinden ölçmek.
Modül 1: Bu kurs için Python
Şunları yapabileceksin: listeler ve sözlükler üzerinde fonksiyonlar yazıp test etmek; döngüler yerine NumPy dizileri, şekiller, dilimleme ve yayınlama kullanmak; rastgeleliği tekrarlanabilir şekilde tohumlamak; küçük sınıflar ve kapanışlar yazmak. Python kapı sınavıyla kontrol edilir (zaten akıcı mısın? önce onu yap: geçersen modülü atlarsın).
Modül 2: Matematik ve olasılık, yalnızca gerektiği kadar
Şunları yapabileceksin: iç çarpımları, matris çarpımlarını ve yayınlamaları hesaplamak; eğimleri iterek ve zincir kuralıyla bulmak, sayılar için ve bütün matrisler için; yayılımın nasıl toplandığını ve bir özdeğerin ne yaptığını açıklamak; softmax gradyanını türetmek; asla taşmayan log-sum-exp, softmax ve çapraz entropi yazmak (kapı sınavı).
Modül 3: Nörondan MLP'ye
Şunları yapabileceksin: NumPy'de bir nöron, aktivasyonlar ve iki katmanlı bir ağ kurmak; geri yayılımı elle türetip bir gradyan denetleyicisiyle kontrol etmek; bir rakam okuyucuyu %95'in üstüne eğitmek; yeni bir veri kümesi için kendi ağını kurup eğitmek (kapı sınavı).
Modül 4: Kendi autograd motorun
Şunları yapabileceksin: ters kipli bir autograd motoru kurmak (grafik, topolojik sıra, geri kuralları, yayınlama, indirgemeler); onu itmeye karşı kontrol etmek; elle yazılmış hiçbir gradyan olmadan onun üzerinde bir ağ eğitmek; tek başına yeni bir işlem eklemek (kapı sınavı).
Modül 5: Optimizasyon
Şunları yapabileceksin: gerilmiş bir yüzeyin neden yavaş olduğunu açıklamak; mini batch SGD, momentum, RMSProp, Adam ve AdamW, zaman planları ve kırpma kurmak; görmediğin bir problem için bir bütçe altında bir optimizasyoncu seçip ayarlamak (kapı sınavı).
Modül 6: Başlangıç ağırlıkları ve normalleştirme
Şunları yapabileceksin: derinlik boyunca sinyalleri ölçüp Xavier, LeCun ya da He ölçeklerini seçmek; ölü birimleri bulmak; BatchNorm ileri ve geri geçişini, LayerNorm ve RMSNorm'u kurmak; eğitim/değerlendirme tuzağından kaçınmak; derin ağlarda kısayollar kullanmak.
Modül 7: Yeni veri üzerinde çalışmak
Şunları yapabileceksin: aşırı ve yetersiz uyumu, yanlılık ve varyansı ölçmek; ağırlık azaltma, dropout, veri artırma ve erken durdurma kullanmak; çifte inişi ve öğrenme eğrilerini dürüstçe okumak; bir modeli doğrulama verisinde ayarlayıp ayrılmış veride raporlamak (kapı sınavı).
Modül 8: Çalıştırma Kliniği I
Şunları yapabileceksin: herhangi bir eğitim çalıştırmasında iki ilk kontrolü yapmak; olası hataları ayıran yoklamalar seçmek; bozuk çalıştırmaları küçük bir değişiklikle, bir bütçe altında teşhis edip düzeltmek (kapı sınavı); bir yapay zekâ yardımcısının teşhislerini kanıta göre değerlendirmek.
Modül 9: Gerçekten daha mı iyi?
Şunları yapabileceksin: veriyi sızıntı olmadan bölmek; kesinlik ve duyarlılık kullanmak; tohumlar üzerinden yayılımı ölçmek; bir puana bootstrap hata çubukları koymak; kalibrasyonu ölçmek; iki modeli eşleştirilmiş bir aralıkla karşılaştırıp kararı vermek (kapı sınavı).
Modül 10: Gören ağlar (CNN'ler)
Şunları yapabileceksin: evrişimi, dolguyu, havuzlamayı ve gradyanlarını, ve im2col'u kurmak; ev motorunda CNN'ler eğitmek; tohumlar üzerinden kaydedilmiş çalıştırmaları okumak; belirginliği bir taban çizgisine karşı test etmek; aktarım kullanmak; bir ağırlık bütçesi altında bir CNN tasarlamak (kapı sınavı).
Modül 11: Belleği olan ağlar (RNN'ler)
Şunları yapabileceksin: bir RNN ve bir karakter modeli kurmak; zaman boyunca geri yayılımı türetmek; kaybolan gradyanları ölçmek; LSTM kapılarını kurmak; kaydedilmiş bellek ve darboğaz deneylerini okumak; sıcaklıkla örneklem almak; bozuk bir yinelemeli modeli onarmak (kapı sınavı).
Modül 12: Sayı olarak kelimeler (gömmeler)
Şunları yapabileceksin: bir gömmeyi bir arama olarak ele almak; çift birleştiren bir tokenizer kurmak; sayarak ve skip-gram ile kelime vektörleri yapmak; onların kopyaladığı bir çarpıklığı ölçüp kaldırmak; hepsini görmediğin bir dünyada tek başına yapmak (kapı sınavı).
Modül 13: Dikkat ve transformer'lar
Şunları yapabileceksin: dikkati, nedensel maskeyi, kafaları, konumları, katman normalleştirmesini ve gerçek bir modelle eşleşen bütün bir bloğu kurmak; dikkatin geri geçişini türetmek; küçük bir GPT eğitmek; kaydedilmiş çalıştırmaları okumak; bir önbellekle metin üretmek; motorunu PyTorch'a eşlemek; bozuk bir transformer'ı onarmak (kapı sınavı).
Modül 14: Çalıştırma Kliniği II
Şunları yapabileceksin: harika görünen hileler, takılmalar, adım boyları ve örnekleme hataları dahil bozuk dizi modellerini teşhis etmek; başarısız kaydedilmiş çalıştırmaları okumak; bir yapay zekâ yardımcısını kanıta göre değerlendirmek; bir bütçeyle tek başına teşhis koymak (kapı sınavı); çıkış sınavını başlangıç sınavınla karşılaştırmak.
Modül 15: Sıkıştır, yeniden kur, üret (otokodlayıcılar ve VAE'ler)
Şunları yapabileceksin: rakamları birkaç sayıya sıkıştırıp yeniden kurmak; bir otokodlayıcının neden yeni rakamlar yapamadığını ölçümlerle söylemek; iki çan eğrisi arasındaki KL'yi ve ELBO'yu hesaplamak; içinden eğitebileceğin bir şekilde örneklem almak; yeni rakamlar yapan bir VAE eğitmek; rakamlar arasında yürümek; çökmüş bir VAE'yi tek başına teşhis edip düzeltmek (kapı sınavı).
Modül 16: Bir oyunda iki ağ (GAN'lar, isteğe bağlı)
İsteğe bağlı modül, sertifika için gerekmez. Şunları yapabileceksin: GAN kayıplarını yazmak ve eğimlerinden doyan olanın ne zaman takıldığını söylemek; sekiz leke üzerinde bir GAN eğitip kapsamasını değerlendirmek; mod çöküşünü gerçekleştirmek; kararlılık hilelerini kaydedilmiş tohumlar üzerinde test edip neyin yardım ettiğini raporlamak; evrişimli bir üretici çalıştırmak; bozuk bir GAN'ı tek başına kurtarmak (kapı sınavı).
Modül 17: Gürültü girer, resim çıkar (difüzyon)
Şunları yapabileceksin: bir plana göre adım adım ve tek sıçramada gürültü eklemek; ağın oklarını veriye geri okumak; bir gürültü tahmincisi eğitmek; DDPM ile örneklem alıp temiz tahminin neden kırpıldığını söylemek; gürültü planlarını ve zaman girdilerini ölçümle karşılaştırmak; bir U-Net kurmak; DDIM ile daha az adımda örneklem almak; örnekleri sınıflandırıcısız yönlendirmeyle yönlendirmek; eğitilmiş bir modele ince ayar yapmak; yeni bir şekle tek başına oturtmak (kapı sınavı).
Modül 18: Etiketsiz öğrenmek
Şunları yapabileceksin: özellikleri en yakın komşu uyuşmasıyla ve yazdığın doğrusal bir yoklamayla değerlendirmek; maskeli tahminle ön eğitim yapmak; InfoNCE yazıp neden çapraz entropi olduğunu söylemek; SimCLR ile ön eğitim yapıp veri artırmalarının neye karar verdiğini okumak; açıklamaları resimlerle eşleştirmek (isteğe bağlı); özellikleri modelin hiç görmediği nesneler üzerinde tek başına test etmek (kapı sınavı).
Modül 19: Daha büyük, ve ne kadar daha iyi (ölçekleme yasaları)
Şunları yapabileceksin: bir eğitim çalıştırmasının maliyetini FLOP olarak hesaplamak; tabanlı bir kuvvet yasasını hata çubuklarıyla uydurmak; bir çalıştırmayı ağırlıkların mı verinin mi sınırladığını okumak; sabit bir bütçe için en iyi model boyutunu planlamak; daha büyük bir çalıştırmayı tahmin edip kontrol etmek; gerçek bir sıçramayı onu yaratan bir metrikten ayırmak; tek başına bir çalıştırma planlamak (kapı sınavı).
Modül 20: Eğitilmiş bir modeli ucuza uyarlamak
Şunları yapabileceksin: yıkıcı unutmayı göstermek; LoRA'yı saymak, kurmak ve gradyanlarını kontrol etmek; rankını ölçümlerden seçmek; bir modeli bozmadan kendi metnin üzerinde ince ayarlamak; damıtmanın ne zaman yardım ettiğini söylemek; ağırlıkları nicemleyip maliyeti tahmin etmek; tercihleri DPO ile ayarlayıp zamanında durmak; bir durum için bir yöntem seçmek; bir bütçe altında tek başına bir uyarlama hedefini tutturmak (kapı sınavı).
Modül 21: Bir modelin içine bakmak
Şunları yapabileceksin: bir modelin içi hakkındaki kanıtın bir örüntü mü, bir etki mi yoksa bir mekanizma mı olduğunu söylemek; bir kontrolle bir yoklama çalıştırmak; bilginin nerede olduğunu bulmak için aktivasyonları yamamak; parçaları kaldırıp yedeği kontrol etmek; bir ders kitabı mekanizmasını önündeki model üzerinde test etmek; bir oyuncakta süperpozisyonu göstermek; seyrek bir otokodlayıcı eğitip bir özellik etiketini görülmemiş metinde test etmek; grokking'i kaydedilmiş çalıştırmalardan okuyup dalgalarını kaldırarak kontrol etmek; yeni girdilerde bilginin nerede olduğunu tek başına bulmak (kapı sınavı).
Modül 22: İddiaları yargılamak
Şunları yapabileceksin: sızmış bir test setini örtüşmeyle bulup temiz puanı raporlamak; ortalama bir kaybı önemli olan kısım boyunca bölmek; sıfır ve ortalama ablasyonunun nasıl farklı olduğunu söyleyip yöntemi raporlamak; tek tohumluk bir farkı standart hatalarla ölçülmüş olandan ayırmak; bir sonucu yeni tohumlarda tekrarlayıp tutmayı bıraktığı ayarı bulmak; bir iddiayı tek başına incelemek (kapı sınavı).
Modül 23: Bitirme stüdyosu: çalıştırabileceğin bir model kartı
Şunları yapabileceksin: bir projeyi bir FLOP bütçesiyle planlamak; bir temel çalıştırmayı tahmin edip tohumlar üzerinde çalıştırmak; değişiklikleri hata çubuklarıyla yargılamak; hâlâ eğitilen bir hatayı gradyan kontrolüyle bulmak; modelinin içinde eğitilmemiş bir kontrole karşı bir bulgu elde etmek; gizli bir sette hata çubuklarıyla bir kez değerlendirmek; her sayısı çalıştırma kaydınla eşleşen bir model kartı yazmak; çalıştırmaları yeniden oynatılan tek bir çevrimdışı dosya dışa aktarmak.
Modül 24: Final sınavı ve tekrar sınavı
Şunları yapabileceksin: yapay zekâ kapalıyken 2. Bölüm'ün dört kadranın hepsinde ne öğrettiğini göstermek (form C); kadranlarını başlangıç çizgisinden 2. Bölüm'ün sonuna kadar karşılaştırmak; bir ay sonra neyin kaldığını kontrol etmek (form D, isteğe bağlı).
Bunları sadece sen yazdırabilir veya kaydedebilirsin. Bağlantılar bu tarayıcıya kaydedilir. Birine göstermek için sertifikadaki doğrula bağlantısını paylaş.