점수를 확률로(softmax)
왜 중요한가 숫자 분류기는 숫자마다 하나씩, 날 점수 10개로 끝나요. 그걸 "각 숫자가 얼마나 그럴듯한가"로 읽으려면 양수이고 합이 1이어야 해요.
작은 숫자
점수 [2, 1, 0]. exp로 양수로 만들면: 약 [7.39, 2.72, 1.00]. 합계 11.11로 나누면: [0.665, 0.245, 0.090]. 합이 1이고, 순서가 같고, 높은 점수는 언제나 높은 확률을 뜻해요.
Softmax: 각 점수의 exp를 모든 exp의 합으로 나눈 것. 로짓: 들어가는 날 점수.
덫 하나: 모든 점수에 같은 숫자를 더해도 아무것도 바뀌지 않아요(나눗셈에서 상쇄돼요). [1002, 1001, 1000]을 해 보세요: 종이 위에서는 [2, 1, 0]과 같은 답이지만, 컴퓨터에서는 exp(1002)가 넘쳐요. 관문에서 그걸 고칠 거예요.
요약 exp, 그다음 합계로 나누기.
이 레슨의 단어와 기호
- softmax
- 각 점수의 exp를 합계로 나누기: 점수가 확률이 돼요
1D 배열에 대한 softmax(z)(여기서는 평범한 버전이면 돼요)를 쓰고, shift_invariant를 설정하세요: 모든 점수에 같은 숫자를 더해도 출력이 같으면 True, 바뀌면 False.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.