Kleinere gewigte (kwantisering)
Waarom dit saak maak Modelle word gestoor en uitgevoer as nommers, en die meeste nommers het nie 32 bits nodig nie. Om elke gewig in 8 of 4 bits te stoor maak 'n model 4 of 8 keer kleiner en dikwels vinniger. Dit is hoe groot modelle op skootrekenaars en fone pas. Die vraag is wat dit kos.
Die eenvoudigste skema, per ry van elke weight matrix: vind die grootste absolute waarde, verdeel die ry in 2^(bits - 1) - 1 gelyke stappe aan elk sye van nul, en rond elke weight af na die naaste stap. Stoor die afgeronde stappe (klein heelgetalle) en een skaal per ry.
Klein getalle
Ry [0.9, -0.3, 0.05] by 4 bits: 7 stappe aan elke kant; skaal 0.9 / 7 = 0.129. 0.9 -> 7 stappe -> 0.9; -0.3 -> -2.33 -> -2 stappe -> -0.257; 0.05 -> 0.39 -> 0 stappe -> 0. Die klein gewig verdwyn.
Woorde en simbole in hierdie les
- quantisation
- storing van wegte in minder bits deur hulle af te rond tot 'n paar stappe
Skryf quantize_row(w, bits) soos beskryf. Stel dan my_guess in: die Engelse verlies wat jy verwag by 8 en by 4 bits, en vul measured in vir 8, 4, 3 en 2 bits deur adapt.quantize te gebruik (dit pas dieselfde reël op elke matriks toe).
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.