Chọn một phương pháp trong một ngân sách
Vì sao điều này quan trọng Mỗi phương pháp trong mô-đun này là câu trả lời đúng cho một câu hỏi khác nhau. Chọn theo trào lưu thì phí tiền; chọn từ các phép đo mới là công việc.
Những gì bạn đã đo, ở một chỗ:
- Tinh chỉnh toàn bộ (200 bước): mã 2.19, tiếng Anh 2.26. Huấn luyện cả 107.072 trọng số; cả một bản sao mới của mô hình cần lưu.
- LoRA hạng 4: mã 2.27, tiếng Anh 2.04. Huấn luyện 8.192; chỉ lưu chừng đó.
- Chưng cất sang một học trò độ rộng 16 (3000 bước): tiếng Anh 1.98 với khoảng 1/8 số trọng số, so với 2.18 khi tự học.
- Lượng tử hóa: 8 bit, một phần tư kích thước, không thay đổi; 4 bit, một phần tám, +0.13.
Với mỗi tình huống, hãy chọn phương pháp mà các phép đo ủng hộ.
Từ và ký hiệu trong bài học này
- tinh chỉnh
- tiếp tục huấn luyện một mô hình đã huấn luyện trên dữ liệu mới
- LoRA
- thích nghi hạng thấp: một ma trận trọng số bị đóng băng cộng hai ma trận mỏng có thể huấn luyện, x W + (alpha / r) x A B
- hạng (r)
- hai ma trận của LoRA mỏng tới đâu: (d_in + d_out) x r trọng số có thể huấn luyện cho mỗi ma trận
- chưng cất
- huấn luyện một học trò nhỏ sao chép đầy đủ các xác suất của một thầy lớn
- nhiệt độ (chưng cất)
- chia các điểm số trước softmax để các lựa chọn thứ hai được tính nhiều hơn
- lượng tử hóa
- lưu trọng số bằng ít bit hơn bằng cách làm tròn chúng về vài nấc
Điền choice với một trong "full fine-tune", "LoRA", "distillation" hoặc "quantisation" cho mỗi tình huống.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.