एक बड़ा जमा matrix और दो पतले (इसे देखें)
यह क्यों मायने रखता है LoRA (Hu et al. 2021) वह तरीका है जिससे आज ज़्यादातर models अनुकूलित होते हैं, क्योंकि यह weights का एक नन्हा हिस्सा train करता है और मूल को अछूता छोड़ता है। विचार एक तस्वीर में समाता है।
एक weight matrix W लें, d_in गुणा d_out। उसे जमा दें। उसके बगल में, दो पतले train होने लायक matrices रखें: A (d_in गुणा r) और B (r गुणा d_out), एक छोटे rank r के साथ। layer निकालती है
x W + (alpha / r) x A B
A B एक पूरा d_in गुणा d_out matrix है, W में एक बदलाव, पर यह बस (d_in + d_out) x r संख्याओं से बना है। B शून्य पर शुरू होता है, इसलिए पहले model ठीक मूल है।
GPT के अपने 2 blocks में से हर एक में चार weight matrices हैं: qkv (64 गुणा 192), o (64 गुणा 64), w1 (64 गुणा 256) और w2 (256 गुणा 64)। दृश्य देखें, फिर गिनें।
इस पाठ के शब्द और चिह्न
- LoRA
- low-rank adaptation: एक जमा weight matrix और दो पतले train होने लायक, x W + (alpha / r) x A B
- rank (r)
- LoRA के दो matrices कितने पतले हैं: हर matrix पर (d_in + d_out) x r train होने लायक weights
lora_weights(shapes, r) लिखें: rank r पर (d_in, d_out) आकारों की एक सूची के लिए LoRA जितने train होने लायक weights जोड़ता है उनकी संख्या। shapes को GPT के 8 लक्ष्य matrices से भरें, फिर ranks 1, 4, 16 और 64 के लिए counts सेट करें, और overtakes: उन ranks में सबसे छोटा जिस पर LoRA पूरे model (107,072) से ज़्यादा weights train करता है।
इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें
यह अभ्यास जल्द खुलेगा
इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।
यह ब्राउज़र learn.floati.life के लिए कुकी रोक रहा है, इसलिए यहाँ पूरे किए गए पाठ क्रम से नहीं खुल सकते। इस साइट के लिए कुकी की अनुमति दें और फिर से लोड करें।