Kurrikulum Leson 214 van 246 · Module 20: Aanpas van 'n getoë model goedkoop
Module 20: Aanpas van 'n getoë model goedkoop

Kleinere gewigte (kwantisering)

Waarom dit saak maak Modelle word gestoor en uitgevoer as nommers, en die meeste nommers het nie 32 bits nodig nie. Om elke gewig in 8 of 4 bits te stoor maak 'n model 4 of 8 keer kleiner en dikwels vinniger. Dit is hoe groot modelle op skootrekenaars en fone pas. Die vraag is wat dit kos.

Die eenvoudigste skema, per ry van elke weight matrix: vind die grootste absolute waarde, verdeel die ry in 2^(bits - 1) - 1 gelyke stappe aan elk sye van nul, en rond elke weight af na die naaste stap. Stoor die afgeronde stappe (klein heelgetalle) en een skaal per ry.

Klein getalle

Ry [0.9, -0.3, 0.05] by 4 bits: 7 stappe aan elke kant; skaal 0.9 / 7 = 0.129. 0.9 -> 7 stappe -> 0.9; -0.3 -> -2.33 -> -2 stappe -> -0.257; 0.05 -> 0.39 -> 0 stappe -> 0. Die klein gewig verdwyn.

Woorde en simbole in hierdie les
quantisation
storing van wegte in minder bits deur hulle af te rond tot 'n paar stappe
Jou beurt

Skryf quantize_row(w, bits) soos beskryf. Stel dan my_guess in: die Engelse verlies wat jy verwag by 8 en by 4 bits, en vul measured in vir 8, 4, 3 en 2 bits deur adapt.quantize te gebruik (dit pas dieselfde reël op elke matriks toe).

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.