Chương trình học Bài 216 trên tổng số 246 · Mô-đun 20: Thích nghi một mô hình đã huấn luyện với chi phí thấp
Mô-đun 20: Thích nghi một mô hình đã huấn luyện với chi phí thấp

Chọn một phương pháp trong một ngân sách

Vì sao điều này quan trọng Mỗi phương pháp trong mô-đun này là câu trả lời đúng cho một câu hỏi khác nhau. Chọn theo trào lưu thì phí tiền; chọn từ các phép đo mới là công việc.

Những gì bạn đã đo, ở một chỗ:

  • Tinh chỉnh toàn bộ (200 bước): mã 2.19, tiếng Anh 2.26. Huấn luyện cả 107.072 trọng số; cả một bản sao mới của mô hình cần lưu.
  • LoRA hạng 4: mã 2.27, tiếng Anh 2.04. Huấn luyện 8.192; chỉ lưu chừng đó.
  • Chưng cất sang một học trò độ rộng 16 (3000 bước): tiếng Anh 1.98 với khoảng 1/8 số trọng số, so với 2.18 khi tự học.
  • Lượng tử hóa: 8 bit, một phần tư kích thước, không thay đổi; 4 bit, một phần tám, +0.13.

Với mỗi tình huống, hãy chọn phương pháp mà các phép đo ủng hộ.

Từ và ký hiệu trong bài học này
tinh chỉnh
tiếp tục huấn luyện một mô hình đã huấn luyện trên dữ liệu mới
LoRA
thích nghi hạng thấp: một ma trận trọng số bị đóng băng cộng hai ma trận mỏng có thể huấn luyện, x W + (alpha / r) x A B
hạng (r)
hai ma trận của LoRA mỏng tới đâu: (d_in + d_out) x r trọng số có thể huấn luyện cho mỗi ma trận
chưng cất
huấn luyện một học trò nhỏ sao chép đầy đủ các xác suất của một thầy lớn
nhiệt độ (chưng cất)
chia các điểm số trước softmax để các lựa chọn thứ hai được tính nhiều hơn
lượng tử hóa
lưu trọng số bằng ít bit hơn bằng cách làm tròn chúng về vài nấc
Đến lượt bạn

Điền choice với một trong "full fine-tune", "LoRA", "distillation" hoặc "quantisation" cho mỗi tình huống.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.