강의 계획 레슨 246개 중 121번째 · 모듈 10: 보는 신경망(CNN)
모듈 10: 보는 신경망(CNN)

신경망이 보는 것, 시험해 보기

왜 중요한가 "신경망이 본 것"의 열 지도는 어디에나 있고, 흔히 오해를 불러요. 여기서 하나를 만들고 그게 무언가를 뜻하는지 시험해요.

현저성 맵은 각 입력 픽셀에 대한 이긴 클래스 점수의 기울기예요: 그 픽셀의 밝기가 답을 얼마나 바꿀지. 엔진이 그걸 공짜로 계산해요: 입력을 Tensor로 만들고 backward를 호출하세요.

믿지 말고 시험하세요

맵이 정말 중요한 픽셀을 표시한다면, 가장 현저한 픽셀 20개를 지우는 게 무작위 픽셀 20개를 지우는 것보다 신경망의 자신감을 더 해쳐야 해요. 그게 삭제 시험이에요. 그걸 통과하지 못하는 맵은 장식이에요.

하지만 무작위 픽셀을 이기는 건 낮은 기준이에요. 이 도형들에서는 밝은 픽셀이 곧 도형이라, 신경망이 전혀 관여하지 않고 그냥 가장 밝은 픽셀을 표시하는 맵도 무작위를 이겨요. 공정한 질문은 신경망의 맵이 그 모델 없는 기준선을 이기는가예요. 못 이긴다면, 그림을 한 번 보는 것 이상은 아무것도 알려 주지 않은 거예요.

기준선: 결과를 설명할 수 있는 가장 단순한 것. 방법은 가장 나쁜 싼 기준선이 아니라 가장 좋은 싼 기준선을 이겨야만 신뢰를 얻어요.

이 레슨의 단어와 기호
현저성 맵
각 입력 픽셀에 대한 이긴 점수의 기울기
RECORDED
강좌가 한 번 훈련해서 공부하라고 함께 보내는 진짜 실행
내 차례

강좌가 한 번 훈련한 CNN이 불러와져 있어요(기록된 신경망, 새 도형에서 96%). 모양 (16, 16, 1)인 이미지 하나 x에 대해 픽셀마다 |이긴 점수의 기울기|를 모양 (16, 16)으로 반환하는 saliency(x)를 쓰세요. 점수 하나의 기울기를 구하려면 E.cols(scores, k, k + 1)로 그 열을 고르고, E.total로 합하고, 그것에 backward를 호출하세요. 그다음 deletion_drop(x, pixels)를 쓰세요. pixels는 (row, column) 쌍의 리스트이고, 그 픽셀들을 0으로 설정할 때 이긴 클래스 확률의 하락을 반환해요. 마지막으로 처음 100장의 테스트 이미지에 걸쳐 가장 현저한 픽셀 20개와 가장 밝은 픽셀 20개에 대한 평균 하락을 재고, 자기 숫자로 beats_brightness를 True나 False로 설정하세요. 테스트는 맵을 무작위 픽셀 20개와도 대조해요.

이 레슨에서 문제를 발견했나요? 알려 주세요 · 이 레슨에 대해 묻기

이 연습은 곧 열려요

앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.