신경망이 보는 것, 시험해 보기
왜 중요한가 "신경망이 본 것"의 열 지도는 어디에나 있고, 흔히 오해를 불러요. 여기서 하나를 만들고 그게 무언가를 뜻하는지 시험해요.
현저성 맵은 각 입력 픽셀에 대한 이긴 클래스 점수의 기울기예요: 그 픽셀의 밝기가 답을 얼마나 바꿀지. 엔진이 그걸 공짜로 계산해요: 입력을 Tensor로 만들고 backward를 호출하세요.
믿지 말고 시험하세요
맵이 정말 중요한 픽셀을 표시한다면, 가장 현저한 픽셀 20개를 지우는 게 무작위 픽셀 20개를 지우는 것보다 신경망의 자신감을 더 해쳐야 해요. 그게 삭제 시험이에요. 그걸 통과하지 못하는 맵은 장식이에요.
하지만 무작위 픽셀을 이기는 건 낮은 기준이에요. 이 도형들에서는 밝은 픽셀이 곧 도형이라, 신경망이 전혀 관여하지 않고 그냥 가장 밝은 픽셀을 표시하는 맵도 무작위를 이겨요. 공정한 질문은 신경망의 맵이 그 모델 없는 기준선을 이기는가예요. 못 이긴다면, 그림을 한 번 보는 것 이상은 아무것도 알려 주지 않은 거예요.
기준선: 결과를 설명할 수 있는 가장 단순한 것. 방법은 가장 나쁜 싼 기준선이 아니라 가장 좋은 싼 기준선을 이겨야만 신뢰를 얻어요.
이 레슨의 단어와 기호
- 현저성 맵
- 각 입력 픽셀에 대한 이긴 점수의 기울기
- RECORDED
- 강좌가 한 번 훈련해서 공부하라고 함께 보내는 진짜 실행
강좌가 한 번 훈련한 CNN이 불러와져 있어요(기록된 신경망, 새 도형에서 96%). 모양 (16, 16, 1)인 이미지 하나 x에 대해 픽셀마다 |이긴 점수의 기울기|를 모양 (16, 16)으로 반환하는 saliency(x)를 쓰세요. 점수 하나의 기울기를 구하려면 E.cols(scores, k, k + 1)로 그 열을 고르고, E.total로 합하고, 그것에 backward를 호출하세요. 그다음 deletion_drop(x, pixels)를 쓰세요. pixels는 (row, column) 쌍의 리스트이고, 그 픽셀들을 0으로 설정할 때 이긴 클래스 확률의 하락을 반환해요. 마지막으로 처음 100장의 테스트 이미지에 걸쳐 가장 현저한 픽셀 20개와 가장 밝은 픽셀 20개에 대한 평균 하락을 재고, 자기 숫자로 beats_brightness를 True나 False로 설정하세요. 테스트는 맵을 무작위 픽셀 20개와도 대조해요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.