강의 계획 레슨 246개 중 133번째 · 모듈 11: 기억하는 신경망(RNN)
모듈 11: 기억하는 신경망(RNN)

관문: 결함이 둘인 망가진 RNN(AI 끄기)

왜 중요한가 도움 없이 결함 둘을 한꺼번에 찾는 것이 클리닉들이 훈련시켜 온 거예요.

AI 튜터는 꺼져 있어요. 이 문자 RNN에는 결함이 둘 있어요. 하나는 손실이 멀리 떨어지지 못하게 하는데, 모든 손실은 유한한 숫자로 남아요(아무것도 폭발하지 않아요). 다른 하나는 신경망이 조각 앞부분에서 읽은 걸 결코 제대로 쓰지 않는다는 뜻이에요. 둘 다 찾아서 고치세요.

이 레슨의 단어와 기호
순환 신경망 (RNN)
한 번에 한 걸음씩 읽고 은닉 상태를 앞으로 지니는 신경망
엔트로피
분포가 얼마나 퍼져 있는지: 확실하면 0, n개 선택이 모두 같으면 ln(n)
내 차례

init과 run_snippet을 고치세요. 200걸음 뒤에 마지막 20걸음에 걸친 평균 손실이 2.45 아래이고, 모든 손실이 유한한 숫자이고, 조각의 첫 문자가 여전히 마지막 예측에 영향을 줘야 해요.

AI 끔: 이 문제에는 튜터도, 힌트도, 풀이도 없어요. 내 생각만으로.

이 레슨에서 문제를 발견했나요? 알려 주세요 · 이 레슨에 대해 묻기

이 연습은 곧 열려요

앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.