강의 계획 레슨 246개 중 210번째 · 모듈 20: 훈련된 모델을 싸게 적응시키기
모듈 20: 훈련된 모델을 싸게 적응시키기

LoRA, 만들어 보기

왜 중요한가 한 번 만들어 보면 세 가지가 뻔해져요: 왜 무해하게 시작하는지, 왜 기울기가 싼지, 왜 원래 가중치가 결코 바뀌지 않는지.

강좌 엔진 위의 LoRA 층: 순방향은 W를 얼린 채 x W + (alpha / r) x A B예요. 엔진이 A와 B의 기울기를 스스로 구해요(모듈 4의 엔진도 그럴 거예요). W는 업데이트되지 않기만 하면 되고, 그걸 확인해요.

이 레슨의 단어와 기호
LoRA
저랭크 적응: 얼린 가중치 행렬 더하기 훈련 가능한 얇은 행렬 둘, x W + (alpha / r) x A B
내 차례

엔진 연산으로 lora_forward(x, W, A, B, alpha)를 쓰세요. 그다음 시작 코드의 작은 층에서 확인하세요: B가 0인 동안 출력이 x W와 같은지, 역방향 단계 한 번 뒤에 W에는 업데이트가 없지만 A나 B에는 있는지, 그리고 A의 기울기가 살짝 밀기와 맞는지. max_gap을 가장 큰 차이로 설정하세요. 엔진은 float32로 작동하니, h = 1e-3 이상으로 미세요: 1e-4면 손실의 변화가 반올림에 묻혀서 올바른 기울기가 틀려 보여요.

이 레슨에서 문제를 발견했나요? 알려 주세요 · 이 레슨에 대해 묻기

이 연습은 곧 열려요

앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.