Chương trình học Bài 121 trên tổng số 246 · Mô-đun 10: Những mạng biết nhìn (CNN)
Mô-đun 10: Những mạng biết nhìn (CNN)

Mạng nhìn vào đâu, được kiểm tra

Vì sao điều này quan trọng Các bản đồ nhiệt về "mạng đã nhìn vào đâu" có ở khắp nơi, và thường gây lạc lối. Ở đây bạn tạo một cái rồi kiểm tra xem nó có ý nghĩa gì không.

Một bản đồ saliency là gradient của điểm của lớp thắng cuộc theo mỗi điểm ảnh đầu vào: độ sáng của điểm ảnh đó sẽ thay đổi câu trả lời bao nhiêu. Bộ máy của bạn tính nó miễn phí: biến đầu vào thành một Tensor và gọi backward.

Kiểm tra nó, đừng tin nó

Nếu bản đồ thật sự đánh dấu những điểm ảnh quan trọng, thì xóa trắng 20 điểm ảnh saliency nhất nên làm hại độ tự tin của mạng nhiều hơn xóa 20 điểm ảnh ngẫu nhiên. Đó là một phép thử xóa. Một bản đồ trượt phép thử đó chỉ là đồ trang trí.

Nhưng thắng các điểm ảnh ngẫu nhiên là một mức thấp. Trên những hình dạng này, các điểm ảnh sáng chính là hình dạng, nên một bản đồ chỉ đánh dấu các điểm ảnh sáng nhất, hoàn toàn không cần mạng nào, cũng thắng ngẫu nhiên. Câu hỏi công bằng là liệu bản đồ của mạng có thắng đường cơ sở không cần mô hình đó không. Nếu không, nó chẳng cho bạn biết điều gì mà một cái liếc vào bức ảnh không cho.

Đường cơ sở (baseline): thứ đơn giản nhất có thể giải thích một kết quả. Một phương pháp chỉ giành được sự tin cậy bằng cách thắng đường cơ sở rẻ tốt nhất, không phải cái tệ nhất.

Từ và ký hiệu trong bài học này
bản đồ saliency
gradient của điểm thắng cuộc theo mỗi điểm ảnh đầu vào
RECORDED
một lần chạy thật mà khóa học đã huấn luyện một lần và đưa kèm để bạn nghiên cứu
Đến lượt bạn

Một CNN mà khóa học đã huấn luyện một lần được nạp sẵn cho bạn (một mạng đã ghi lại, 96% trên các hình dạng mới). Viết saliency(x) cho một ảnh x shape (16, 16, 1), trả về |gradient của điểm thắng cuộc| cho mỗi điểm ảnh dưới dạng shape (16, 16). Để lấy gradient của một điểm, chọn cột của nó bằng E.cols(scores, k, k + 1), cộng nó lại bằng E.total, và gọi backward trên đó. Rồi deletion_drop(x, pixels), trong đó pixels là một list các cặp (row, column): mức giảm xác suất của lớp thắng cuộc khi các điểm ảnh đó được đặt bằng 0. Cuối cùng đo, trên 100 ảnh kiểm thử đầu tiên, mức giảm trung bình cho 20 điểm ảnh saliency nhất và cho 20 điểm ảnh sáng nhất, và gán beats_brightness là True hoặc False từ chính các con số của bạn. Bài kiểm tra còn kiểm tra bản đồ của bạn so với 20 điểm ảnh ngẫu nhiên.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.