Chương trình học Bài 208 trên tổng số 246 · Mô-đun 20: Thích nghi một mô hình đã huấn luyện với chi phí thấp
Mô-đun 20: Thích nghi một mô hình đã huấn luyện với chi phí thấp

Học cái mới, quên cái cũ

Vì sao điều này quan trọng Mọi mô hình hữu ích đều được thích nghi: với tài liệu của một công ty, một phong cách viết mã, một ngôn ngữ. Cách hiển nhiên, tiếp tục huấn luyện trên dữ liệu mới, có một cái giá không ai thấy cho tới khi quá muộn: mô hình tệ đi ở những gì nó đã biết.

GPT đã ghi lại của khóa học học tiếng Anh từ văn bản bài học của khóa học. Công việc mới của nó: mã Python, lấy từ các lời giải mẫu của khóa học Python. Trước khi huấn luyện, nó được 1.70 trên tiếng Anh giữ lại và 3.25 trên mã giữ lại (nó hầu như chưa thấy mã).

Huấn luyện mọi trọng số trên mã trong 60 bước, mỗi bước 8 cửa sổ (mức nhiều nhất vừa một bài học trong trình duyệt) và đo lại cả hai. Hãy xem cảnh trước: hai giá trị mất mát, từng bước, cho lần tinh chỉnh toàn bộ này và cho phương pháp rẻ hơn mà bạn sẽ dựng trong mô-đun này.

Hãy dự đoán trước: sau 60 bước trên mã, giá trị mất mát tiếng Anh sẽ giữ xấp xỉ như cũ, hay tăng lên?

Đến lượt bạn

Gán my_guess là "same" hoặc "rises". Điền before và after bằng adapt.losses(model) (giá trị mất mát tiếng Anh, giá trị mất mát mã) quanh adapt.train(model, code_train, steps=60, batch=8).

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.