강의 계획 레슨 246개 중 34번째 · 모듈 2: 수학과 확률, 필요한 만큼만
모듈 2: 수학과 확률, 필요한 만큼만

점수를 확률로(softmax)

왜 중요한가 숫자 분류기는 숫자마다 하나씩, 날 점수 10개로 끝나요. 그걸 "각 숫자가 얼마나 그럴듯한가"로 읽으려면 양수이고 합이 1이어야 해요.

작은 숫자

점수 [2, 1, 0]. exp로 양수로 만들면: 약 [7.39, 2.72, 1.00]. 합계 11.11로 나누면: [0.665, 0.245, 0.090]. 합이 1이고, 순서가 같고, 높은 점수는 언제나 높은 확률을 뜻해요.

Softmax: 각 점수의 exp를 모든 exp의 합으로 나눈 것. 로짓: 들어가는 날 점수.

덫 하나: 모든 점수에 같은 숫자를 더해도 아무것도 바뀌지 않아요(나눗셈에서 상쇄돼요). [1002, 1001, 1000]을 해 보세요: 종이 위에서는 [2, 1, 0]과 같은 답이지만, 컴퓨터에서는 exp(1002)가 넘쳐요. 관문에서 그걸 고칠 거예요.

요약 exp, 그다음 합계로 나누기.

이 레슨의 단어와 기호
softmax
각 점수의 exp를 합계로 나누기: 점수가 확률이 돼요
내 차례

1D 배열에 대한 softmax(z)(여기서는 평범한 버전이면 돼요)를 쓰고, shift_invariant를 설정하세요: 모든 점수에 같은 숫자를 더해도 출력이 같으면 True, 바뀌면 False.

이 레슨에서 문제를 발견했나요? 알려 주세요 · 이 레슨에 대해 묻기

이 연습은 곧 열려요

앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.