Tinh chỉnh GPT trên văn bản của riêng bạn
Vì sao điều này quan trọng Đây là cách dùng hằng ngày: một mô hình tổng quát, văn bản của bạn, một bộ thích nghi rẻ. Bài kiểm tra là xem nó có học được văn bản của bạn và giữ được phần còn lại hay không.
Đặt văn bản của riêng bạn vào my_text: ghi chú, một bài luận, mã bạn đã viết, ít nhất 5.000 ký tự (mặc định là một đoạn của các lời giải Python để bài học chạy được như đã cho). Các ký tự mô hình chưa từng thấy bị bỏ đi. 20% cuối được giữ riêng để kiểm tra.
Huấn luyện LoRA, hạng 8, trong 60 bước, mỗi bước 8 cửa sổ. Đạt khi phần giữ lại của văn bản của bạn có điểm tốt hơn mô hình gốc ít nhất 0.3, và giá trị mất mát tiếng Anh tăng ít hơn 0.5. Để so sánh, trên văn bản mặc định: LoRA làm tiếng Anh tăng khoảng 0.29, tinh chỉnh toàn bộ khoảng 0.69, và cả hai học văn bản tốt xấp xỉ như nhau.
Từ và ký hiệu trong bài học này
- tinh chỉnh
- tiếp tục huấn luyện một mô hình đã huấn luyện trên dữ liệu mới
- LoRA
- thích nghi hạng thấp: một ma trận trọng số bị đóng băng cộng hai ma trận mỏng có thể huấn luyện, x W + (alpha / r) x A B
- hạng (r)
- hai ma trận của LoRA mỏng tới đâu: (d_in + d_out) x r trọng số có thể huấn luyện cho mỗi ma trận
Điền base_scores và tuned_scores: (giá trị mất mát tiếng Anh, giá trị mất mát trên 20% giữ lại của văn bản của bạn) trước và sau khi huấn luyện mô hình LoRA.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.