Alle kursusse Gratis · Geen rekening nodig nie · In jou blaaier

Neurale Netwerke: Neuron tot Transformer

Bou self neurale netwerke, van een neuron tot 'n transformer, dan generatiewe modelle, diffusie, skaalwete en kyk binne-in 'n model, in eenvoudige Python en NumPy, opgelei in jou bl brasileiros. Skryf jou eie autograd, diagnose breek-runs, beoordeel aansprake deur bewys, en eindig met 'n afsluitprojek wat jy kan herhaal. Gratis, geen rekening nodig nie.

25 modules 246 lesse 246 outomaties gegradeerde oefeninge Selfgelei · ~143 van materiaal Getoën in jou bl brasileiros, geen GPU nodig nieVoorspel die kurwe, dan hardloop dit
Jou vordering 0 / 246 oefeninge voltooi
Daaglikse doel
Tyd: 60 min

Module 0: Beginlyn

Jy sal in staat wees om: te sê hoe die kursus werk en wat dit meet; 'n voorspelling te maak en dit teen 'n run te toets; jou begintelling op die vier skiesies te rekord; jou toestel se spoed in FLOPs te meet.

1 van 7* · netwerklaag Beginlyn Voltooi al 5 oefeninge in hierdie fase om die laag daarvan te verdien.
Tyd: oor 7 h

Module 2: Wiskunde en waarskynlikheid, net soos nodig

Jy sal kan: dot products, matrix multiplies en broadcasts bereken; hellingsgrade vind deur nudging en deur die chain rule, vir getalle en vir hele matrices; verduidelik hoe spread optel en wat 'n eigenvalue doen; die softmax gradient aflei; log-sum-exp, softmax en cross-entropy skryf wat nooit overflow nie (the gate).

2 van 7* · netwerklaag Grondsvlaktes Voltooi al 3 oefeninge in hierdie fase om die laag daarvan te verdien.
3 van 7* · netwerklaag Maak die opleiding werk Voltooi al 40 oefeninge in hierdie fase om die laag daarvan te verdien.
Tyd: oor 10 h

Module 13: Aandag en transformers

Jy sal kan: aandag bou, die oorlewingsmasker, koppe, posisies, laagnormering en 'n hele blok wat by 'n regte model pas; die aandag se terugwaartse pad aflei; 'n klein GPT aanleer; opgetekende uitvoerings lees; met 'n kiese genereer; jou enjin op PyTorch kaart; 'n gebreekte transformer (die hek) herstel.

4 van 7* · netwerklaag Argitekture vir struktuur Voltooi al 56 oefeninge in hierdie fase om die laag daarvan te verdien.
Tyd: oor 4 h

Module 16: Twee netwerke in 'n speletjie (GANs, opsioneel)

Opsionele module, nie nodig vir die sertifikaat nie. Jy sal in staat wees om: die GAN losses te skryf en uit hul hellings sê wanneer die saturende een stank; 'n GAN op agt blobs te train en sy dekking te beoordeel; mode collapse te laat gebeur; stabiliseringstruke oor opgeneemde seeds te toets en rapporteer wat gehelp het; 'n konwolusionele generator te hardloop; 'n gebreekte GAN alleen te red (die gate).

Tyd: oor 6 h

Module 18: Leer sonder etikette

Jy sal in staat wees om: kenmer te beoordeel deur nearest-neighbour ooreenstemming en deur 'n lineêre sonde wat jy skryf; vooraf te train met masked prediction; InfoNCE te skryf en te sê waarom dit cross-entropy is; vooraf te train met SimCLR en te lees wat sy augmentations besluit; onderskrifte by prente te pas (opsioneel); kenmer op voorwerpe wat die model nooit gesien het, alleen te toets (die gate).

5 van 7* · netwerklaag Netwerke wat dinge maak Voltooi al 26 oefeninge in hierdie fase om die laag daarvan te verdien.
Tyd: oor 5 h

Module 19: Groter, en hoeveel beter (skaleringswette)

Jy sal kan: 'n opleidingsloop in FLOPs berek; 'n magwet met 'n vloer en foutbalke aanpas; lees of gewigte of data 'n loop beperk; die beste modelgrootte vir 'n vaste begroting beplan; 'n groter loop voorspel en dit nagaan; 'n werklike sprong van 'n metriek wat een maak onderskei; 'n loop alleen beplan (die hek).

Tyd: oor 5 h

Module 20: Aanpas van 'n getoë model goedkoop

Jy sal in staat wees om: katastrofiese vergeetnis te wys; LoRA te tel, bou en gradient-check; sy rang uit metings te kies; 'n model op jou eie teks te fine-tune sonder om dit te vernietig; te sê wanneer distillering help; gewigte te quantiseer en die koste te voorspel; voorkeure met DPO te tune en betyds te stop; 'n metode vir 'n situasie te kies; 'n aanpassingsdoel alleen binne 'n begroting te bereik (die gate).

Tyd: oor 8 h

Module 21: Kyk binne in 'n model

Jy sal kan: sê of bewys oor 'n model se binnekant 'n patroon, 'n effek of 'n meganisme is; 'n probe met 'n kontrol_ loop; aktiverings pats om te vind waar inligting is; dele verwyder en op rugsteun toets; 'n handboek meganisme op die model voor jou toets; superposisie in 'n speelding ding wys; 'n sparse autoencoder aanleer en 'n feature label op ongesiene teks toets; grokking uit opgeneemde runs lees en sy golwe deur dit te verwyder kontroleer; vind waar inligting op nuwe insets alleen is (die gate).

Tyd: oor 5 h

Module 22: Beoordeel aansprake

Jy sal kan: 'n lekker testset vind deur oorklapping en die skoon telling rapporteer; 'n gemiddelde verlies langs die deel wat saak maak verdeel; sê hoe zero en mean ablation verskil en die metode rapporteer; 'n een-saad verskil van 'n gemeette een met standaardfoute vertel; 'n resultaat op nuwe sade repliseer en die instelling vind waar dit ophou om te hou; 'n aanspraak alleen hersien (die gate).

6 van 7* · netwerklaag Skalering en begrip Voltooi al 36 oefeninge in hierdie fase om die laag daarvan te verdien.
Tyd: oor 7 h

Module 23: Capstone-studio: 'n model kaart wat jy kan hardloop

Jy sal in staat wees om: 'n projek met 'n FLOP-begroting te beplan; 'n baseline oor seeds te roep en te hardloop; veranderinge met foutbalke te beoordeel; 'n bug wat steeds traineer deur gradiëntkontrole te vind; 'n bevinding binne jou model teen 'n ongetrainde kontrole te maak; een keer op 'n verborge stel met foutbalke te evalueer; 'n modelkaart te skryf waarvan elke nommer by jou run log pas; een offline-lêer te uitvoer waarvan die runs herspeel.

Tyd: 50 min

Module 24: Finale-eksamen en hertoetsing

Jy sal kan: met die AI af, wys wat Deel 2 op al vier skiesels geleer het (vorm C); jou skiesels van die beginlyn tot die einde van Deel 2 vergelyk; 'n maand later nagaan wat gebly het (vorm D, opsioneel).

7 van 7* · netwerklaag Hoofstuk en bewys Voltooi al 10 oefeninge in hierdie fase om die laag daarvan te verdien.