모듈 11: 기억하는 신경망(RNN)
관문: 결함이 둘인 망가진 RNN(AI 끄기)
이 강좌를 전에 들은 적이 있나요?
한 번만 세기 위해서예요. 내 답만 익명의 진행 상황과 함께 보내져요.
왜 중요한가 도움 없이 결함 둘을 한꺼번에 찾는 것이 클리닉들이 훈련시켜 온 거예요.
AI 튜터는 꺼져 있어요. 이 문자 RNN에는 결함이 둘 있어요. 하나는 손실이 멀리 떨어지지 못하게 하는데, 모든 손실은 유한한 숫자로 남아요(아무것도 폭발하지 않아요). 다른 하나는 신경망이 조각 앞부분에서 읽은 걸 결코 제대로 쓰지 않는다는 뜻이에요. 둘 다 찾아서 고치세요.
이 레슨의 단어와 기호
- 순환 신경망 (RNN)
- 한 번에 한 걸음씩 읽고 은닉 상태를 앞으로 지니는 신경망
- 엔트로피
- 분포가 얼마나 퍼져 있는지: 확실하면 0, n개 선택이 모두 같으면 ln(n)
내 차례
init과 run_snippet을 고치세요. 200걸음 뒤에 마지막 20걸음에 걸친 평균 손실이 2.45 아래이고, 모든 손실이 유한한 숫자이고, 조각의 첫 문자가 여전히 마지막 예측에 영향을 줘야 해요.
AI 끔: 이 문제에는 튜터도, 힌트도, 풀이도 없어요. 내 생각만으로.
레슨 완료. 잘했어요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.