살짝 밀어서 구하는 기울기(도함수)
왜 중요한가 훈련은 같은 질문을 거듭 해요: 이 가중치를 살짝 밀면 손실에 무슨 일이 일어날까? 그 질문에는 이름이 있어요: 도함수.
보기
x = 3에서 f(x) = x * x를 보세요, 거기서 f는 9예요. x를 3.001로 밀면: f는 9.006001이 돼요. 입력이 0.001 움직일 때 출력이 0.006001 움직였으니, 약 6배예요. 그러니 3에서의 기울기는 약 6이에요.
x 제곱의 정확한 기울기는 2 곱하기 x이고, x = 3에서 6이에요. 살짝 밀기가 거의 정확히 맞혔어요. 양쪽으로 밀어서 평균 내는 (f(x + h) - f(x - h)) / (2h)는 더 정확해요.
도함수: 한 점에서 입력이 단위만큼 바뀔 때 출력이 얼마나 빨리 바뀌는지. 거기서의 곡선의 기울기.
필요하게 될 기울기
언제든 살짝 밀 수 있지만, 이 정확한 기울기들은 이 강좌에서 거듭 나와요. 각각 자기 slope 함수로 확인하기 쉬워요.
| 함수 | 기울기 |
|---|---|
| x의 n제곱 | n 곱하기 x의 n - 1제곱(그래서 x 제곱의 기울기는 2x) |
| exp(x) | exp(x): 자기 자신이 기울기 |
| log(x) | 1 / x |
| sigmoid(x) = 1 / (1 + exp(-x)) | sigmoid(x) 곱하기 (1 - sigmoid(x)) |
| tanh(x) | 1 - tanh(x)의 제곱 |
| a 곱하기 b, 둘 다 x에 달린 것 | (a의 기울기) 곱하기 b + a 곱하기 (b의 기울기): 곱의 법칙 |
| f(g(x)), 하나가 다른 것 안에 | g(x)에서의 f의 기울기, 곱하기 g의 기울기: 연쇄 법칙, 다음 레슨 |
요약 밀고, 재고, 나누세요. 도함수는 그게 전부예요.
이 레슨의 단어와 기호
- 도함수 (df/dx)
- 입력을 단위만큼 밀 때 출력이 얼마나 빨리 바뀌는지
- 연쇄 법칙
- 줄지어 놓인 단계들의 기울기는 각 단계 자신의 기울기의 곱이에요
양쪽 밀기를 써서 slope(f, x, h=1e-5)를 쓰세요. 숫자 하나의 어떤 함수에든 작동해야 해요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.