Một phát hiện bên trong mô hình của bạn, có đối chứng
Vì sao điều này quan trọng Bài học của Mô-đun 21, áp dụng cho mô hình của chính bạn: điểm của một đầu dò không có nghĩa gì cho tới khi bạn so sánh nó với thứ cùng đầu dò đó đọc được từ một mạng chưa từng huấn luyện.
Bộ đầu dò cho hướng của bạn hỏi một câu hỏi về mỗi đầu vào (meaning): ở hướng language, "ký tự tiếp theo có phải nguyên âm không?"; ở hướng images, "vật thể nào ở trong ảnh?".
Huấn luyện đường cơ sở của bạn (seed 0). Đọc lớp ẩn của nó (studio.hidden_units(model, X)) và huấn luyện một đầu dò tuyến tính trên nửa đầu của bộ đầu dò, kiểm tra trên nửa sau (ssl.probe, 300 bước). Đối chứng: cùng đầu dò trên một mạng chưa huấn luyện cùng hình dạng và seed (studio.MLP(track.n_in, width, track.n_out, seed=0)). Các đơn vị ReLU ngẫu nhiên đã biến đầu vào thành nhiều đặc trưng, và một đầu dò có thể đọc được nhiều từ chúng; chỉ phần cao hơn đối chứng mới là thứ việc huấn luyện đặt vào đó.
Từ và ký hiệu trong bài học này
- đường cơ sở
- lần chạy thông thường mà mọi thay đổi được đo so với nó, trên cùng các seed
Điền trained, control và base_rate (tỷ lệ của nhãn phổ biến nhất trong nửa kiểm tra). Gán finding là "above control" nếu trained thắng control hơn 0.02, nếu không thì "not above control".
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.