생산적 실패: 뉴런 하나로 XOR
왜 중요한가 여기서 일부러 실패하는 것이, 어떤 설명보다 잘, 왜 신경망에 층이 하나보다 많이 필요한지 가르쳐 줘요.
XOR("배타적 또는")은 두 입력 중 정확히 하나가 1일 때 1이에요. 점 넷: (0,0)은 0, (0,1)은 1, (1,0)은 1, (1,1)은 0. 할 일: 지난 레슨의 로지스틱 뉴런이 넷 다 맞히게 만드세요. 어떤 학습률이든, 어떤 단계 수든, 어떤 시드든 시도해 보세요.
여기서 뉴런은 무작위 가중치에서 시작해요. 그게 중요해요: 모두 0에서 시작하면 XOR에서 기울기는 대칭 때문에 정확히 0이라(네 점이 반대 방향으로 똑같이 당겨요) 아예 움직이지 않을 거예요. 그건 이 레슨이 다루는 것과 다른 실패라서, 배제해요.
힌트를 읽기 전에 몇 분 동안 진짜로 시도해 보세요. 먼저 애쓰는 것이 요점이에요: 학습에 대한 연구는 개념을 배우기 전에 문제를 시도한 사람들이 나중에 그걸 더 잘 이해한다는 걸 발견해요.
이 레슨의 단어와 기호
- 뉴런
- w . x + b, 그다음 활성화
- 가중치 (w, W), 편향 (b)
- 뉴런이 배우는 숫자. 편향은 출력을 옮겨요
- sigmoid
- 1 / (1 + exp(-z)): 어떤 숫자든 0에서 1로 눌러 넣어요
- 학습률 (lr)
- 각 훈련 단계가 얼마나 큰지
XOR에 대해 적어도 세 가지 다른 설정으로 train_logistic(X, y, lr, steps, seed)를 쓰고, 각 결과의 정확도를 my_attempts에 넣으세요. 그다음 reason을 진짜 설명의 글자로 설정하세요:
A: 단계가 더 필요해요. B: 뉴런 하나는 평면을 직선 하나로만 나눌 수 있고, 어떤 직선도 XOR을 가르지 못해요. C: 학습률이 틀렸어요. D: 점 넷은 배우기에 너무 적어요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.