Programma Les 85 van 246 · Module 6: Startgewichten en normalisatie
Module 6: Startgewichten en normalisatie

Poort: maak een niet-trainbare deep net train (AI uit)

Waarom dit ertoe doet Het repareren van een diep netwerk dat niet leert is een van de meest voorkomende echte taken in dit veld. Hier doe je het alleen.

AI uit. Het netwerk van 30 lagen hieronder laat nooit een muntworp achter. Je mag aanpassen hoe het wordt gestart en hoe de blokken zijn bedraad, gebruik hiervoor alles uit deze module, maar behoud 30 verborgen lagen met breedte 16 en 300 stappen van plain SGD.

Woorden en symbolen in deze les
Xavier, LeCun, He
beginnende spreads zijn sqrt(2 / (inputs + outputs)) of 1 / sqrt(inputs) voor tanh, en sqrt(2 / inputs) voor ReLU
Jij bent aan de beurt

Pas build(rng) en forward(params, X) zo aan dat de training minstens 90% nauwkeurigheid op de trainingsdata van de manen haalt.

AI uit: geen tutor, hints of uitgewerkte oplossing voor deze. Alleen je eigen denkwerk.

Een probleem ontdekt in deze les? Meld het · Vraag naar deze les

Deze oefening opent binnenkort

Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.