Kurrikulum Leson 165 van 246 · Module 14: Lopie-kliniek II
Module 14: Lopie-kliniek II

Poort: drie onsigbare gebreekte runs (AI af)

Waarom dit saak maak Om alleen te diagnoseer, met 'n begroting, is die vaardigheid wat hierdie kursus sedert Module 8 bou.

AI tutor af. Drie loopies, elk met een fout uit hierdie module se opleidingsgevalle. Dit is nuwe loopies, nie die oefeningsgevalle nie: 'n ander seed, en foute van ander groottes, so onthommelde nommers sal nie ooreenstem nie. Jou begroting is 9 probes in totaal (opleiding van 'n gesegelde geval tel as een), getel oor elke loopie sedert die bladsy oopgemaak is (herhaling van 'n probe op dieselfde geval is gratis; 'n verkeerde diagnose of 'n regstelling wat nie werk nie kos een probe).

Elke geval hieronder is 'n oefenloop met een fout wat daarin geplaas is. Vir elk een: gebruik probes om die fout te vind, en skryf dan 'n regstelling as config veranderinge wat die loop weer gesond maak. Die foute in hierdie les: any training fault from this module. 'n Goeie diagnostikus het selde meer as twee probes per geval nodig.

ProbeWat dit vir jou vertelGesonde hardloop
loss_curve(c)Treiningsverlies elke 25 stappe, en die verlies op ongesiene teks aan die einde. Kyk altyd eerste.4.55 af tot ongeveer 2.9; onsigbaar by ongeveer 3.0
loss_at_init(c)Verlies voor opleiding. 'n Vars model wat gelyk oor 95 karakters raai, gee ln(95).4.55
leak_check(c)Kan 'n latere karakter 'n vroeëre voorspelling verander?Vals
show_batch(c)Een opleidingsinput en sy teiken, as teks.target = input skuif een karakter links
update_ratio(c)Na die eerste Adam-stap, hoe ver het gewigte beweeg relatief tot hul grootte. Nie Module 8 se reël nie: daardie 0.001 tot 0.1 reeks is vir gewone SGD-stappe. Adam se eerste stap skuif elke gewig teen ongeveer die learning rate ongeag sy gradient, en hierdie gewigte begin naby 0.02, so 0.01 / 0.02 gee ongeveer 0.5. Vergelyk 'n geval met hierdie gesonde loop, nie met Module 8 se reeks nie.ongeveer 0.5
block_change(c)Hoeveel die eerste blok elke vektor aan die begin verander.ongeveer 0.3
Woorde en simbole in hierdie les
ln(V)
die beginverlies van 'n model wat gelykverdelig oor V simbole raai: 4.55 vir 95 karakters
veranderblok
hoeveel een blok 'n vektor aan die begin verander; naby 1 beteken dit het dit vervang
Jou beurt

Vul diagnosis (geval tot foutnaam) en fixes (geval tot 'n woordeboek van konfigurasiewysigings) in vir gevalle A, B en C. Na jou regstelling moet elke instelling ooreenstem met die gesonde uitvoering.

AI af: geen tutor, wenke of uitgewerkte oplossing op hierdie een nie. Net jou eie denke.

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.