모듈 20: 훈련된 모델을 싸게 적응시키기
예산 안에서 방법 고르기
이 강좌를 전에 들은 적이 있나요?
한 번만 세기 위해서예요. 내 답만 익명의 진행 상황과 함께 보내져요.
왜 중요한가 이 모듈의 각 방법은 서로 다른 질문에 대한 맞는 답이에요. 유행으로 고르면 돈을 낭비하고, 측정으로 고르는 게 일이에요.
잰 것을 한곳에:
- 전체 미세 조정(200걸음): 코드 2.19, 영어 2.26. 가중치 107,072개 전부를 훈련하고, 저장할 모델의 완전히 새 사본.
- LoRA 랭크 4: 코드 2.27, 영어 2.04. 8,192개를 훈련하고, 그것만 저장해요.
- 16폭 학생으로의 증류(3000걸음): 가중치 약 1/8로 영어 1.98, 혼자 훈련한 2.18에 비해요.
- 양자화: 8비트, 4분의 1 크기, 변화 없음. 4비트, 8분의 1, +0.13.
각 상황에 대해 측정이 뒷받침하는 방법을 고르세요.
이 레슨의 단어와 기호
- 미세 조정
- 훈련된 모델을 새 데이터로 계속 훈련하기
- LoRA
- 저랭크 적응: 얼린 가중치 행렬 더하기 훈련 가능한 얇은 행렬 둘, x W + (alpha / r) x A B
- 랭크 (r)
- LoRA의 두 행렬이 얼마나 얇은지: 행렬마다 훈련 가능한 가중치 (d_in + d_out) × r개
- 증류
- 작은 학생이 큰 선생의 전체 확률을 베끼도록 훈련하기
- 온도(증류)
- 둘째 선택이 더 치도록 softmax 전에 점수를 나누기
- 양자화
- 가중치를 몇 단계로 반올림해서 더 적은 비트로 저장하기
내 차례
각 상황에 대해 choice를 "full fine-tune", "LoRA", "distillation", "quantisation" 중 하나로 채우세요.
레슨 완료. 잘했어요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.