강의 계획 레슨 246개 중 216번째 · 모듈 20: 훈련된 모델을 싸게 적응시키기
모듈 20: 훈련된 모델을 싸게 적응시키기

예산 안에서 방법 고르기

왜 중요한가 이 모듈의 각 방법은 서로 다른 질문에 대한 맞는 답이에요. 유행으로 고르면 돈을 낭비하고, 측정으로 고르는 게 일이에요.

잰 것을 한곳에:

  • 전체 미세 조정(200걸음): 코드 2.19, 영어 2.26. 가중치 107,072개 전부를 훈련하고, 저장할 모델의 완전히 새 사본.
  • LoRA 랭크 4: 코드 2.27, 영어 2.04. 8,192개를 훈련하고, 그것만 저장해요.
  • 16폭 학생으로의 증류(3000걸음): 가중치 약 1/8로 영어 1.98, 혼자 훈련한 2.18에 비해요.
  • 양자화: 8비트, 4분의 1 크기, 변화 없음. 4비트, 8분의 1, +0.13.

각 상황에 대해 측정이 뒷받침하는 방법을 고르세요.

이 레슨의 단어와 기호
미세 조정
훈련된 모델을 새 데이터로 계속 훈련하기
LoRA
저랭크 적응: 얼린 가중치 행렬 더하기 훈련 가능한 얇은 행렬 둘, x W + (alpha / r) x A B
랭크 (r)
LoRA의 두 행렬이 얼마나 얇은지: 행렬마다 훈련 가능한 가중치 (d_in + d_out) × r개
증류
작은 학생이 큰 선생의 전체 확률을 베끼도록 훈련하기
온도(증류)
둘째 선택이 더 치도록 softmax 전에 점수를 나누기
양자화
가중치를 몇 단계로 반올림해서 더 적은 비트로 저장하기
내 차례

각 상황에 대해 choice를 "full fine-tune", "LoRA", "distillation", "quantisation" 중 하나로 채우세요.

이 레슨에서 문제를 발견했나요? 알려 주세요 · 이 레슨에 대해 묻기

이 연습은 곧 열려요

앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.