Tin trợ lý không?
Vì sao điều này quan trọng Các trợ lý AI sẵn lòng chẩn đoán những lần huấn luyện của bạn. Chúng thường đúng và đôi khi sai một cách tự tin. Kỹ năng là biết cái nào, dùng bằng chứng thay vì giọng điệu.
Một trợ lý AI đã xem mười lần chạy hỏng và gọi tên một lỗi cho mỗi cái. Khoảng một phần ba câu trả lời của nó sai, và chúng nghe tự tin y như những câu đúng. Với mỗi trường hợp, hãy quyết định: chấp nhận hay bác bỏ. Hãy đặt mọi quyết định trên một đầu dò, không phải trên việc khẳng định nghe có hợp lý tới đâu.
Điểm của bạn là độ chính xác phán quyết: việc bạn chấp nhận hay bác bỏ khớp với sự thật thường xuyên tới đâu. (Đây không phải là hiệu chỉnh, thứ Mô-đun 9 định nghĩa: độ tự tin có khớp với tần suất bạn đúng không.) Hãy cảnh giác với những khẳng định hợp với vài triệu chứng nhưng không hợp với triệu chứng quyết định: một giá trị mất mát đình trệ có thể là một tốc độ học quá thấp, hoặc một tốc độ đã ổn rồi bị hạ xuống.
| Đầu dò | Nó cho bạn biết gì |
|---|---|
loss_curve(c) | Giá trị mất mát huấn luyện mỗi 50 bước và độ chính xác kiểm định cuối cùng. Luôn nhìn cái này trước. |
loss_at_init(c) | Giá trị mất mát trước khi huấn luyện. Một mô hình 10 lớp mới nên ở gần ln(10) = 2.30. |
overfit_one_batch(c) | Nó có học thuộc được 32 ví dụ không? Một thiết lập lành mạnh đạt gần 0. |
grad_norms(c) | Kích thước gradient cho mỗi ma trận trọng số lúc bắt đầu. Bằng không nghĩa là không gì học được. |
update_ratio(c) | Kích thước bước SGD thuần so với kích thước trọng số. Lành mạnh là khoảng 0.001 tới 0.1 (một quy tắc kinh nghiệm cho SGD thuần; Mô-đun 14 cho thấy vì sao Adam khác). |
act_stats(c) | Các giá trị kích hoạt ẩn: trung bình, giá trị lớn nhất, tỉ lệ đơn vị chết. |
lr_schedule(c) | Tốc độ học ở các bước 0, 50, 100 và cứ thế. |
batch_labels(c) | Các nhãn trong vài batch đầu tiên. |
overlap(c) | Bao nhiêu ví dụ kiểm định cũng xuất hiện trong tập huấn luyện. |
Từ và ký hiệu trong bài học này
- đầu dò
- một phép đo nhanh của một lần chạy, như kích thước gradient hay số đơn vị chết
- độ chính xác phán quyết
- việc bạn chấp nhận hay bác bỏ một khẳng định khớp với sự thật thường xuyên tới đâu
Với mỗi trường hợp A tới J, gán verdicts[case] là True (trợ lý đúng) hoặc False. Bạn cần đúng ít nhất 9 trên 10.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.