강의 계획 레슨 246개 중 93번째 · 모듈 7: 새 데이터에서 작업하기
모듈 7: 새 데이터에서 작업하기

관문: 과소적합 없이 틈을 닫기(AI 끄기)

왜 중요한가 모델을 쓸모없게 만들어도 된다면 훈련/검증 틈을 닫는 건 쉬워요. 모델을 좋게 유지하면서 그렇게 하는 게 진짜 기술이에요. 이 모듈을 이미 아나요? 다른 레슨 전에 이 관문을 먼저 볼 수 있어요: 통과하면 이 모듈이 완료로 표시되고 다음 모듈이 열려요.

AI 튜터는 꺼져 있어요. 점 25개에 대한 차수 14 다항식은 심하게 과적합해요. 차수 14를 유지하고 가중치 감쇠(편향과 분산 레슨의 ridge)를 써야 하고, 그 강도는 검증 세트로 골라야 해요.

검증 세트를 보고 alpha를 고르니, 이제 검증 오차는 조금 듣기 좋게 나와요. 그래서 관문은 코드가 결코 보지 않는 새 점 2,000개의 별도 테스트 세트로 점수를 매겨요. 그게 조정한 모델을 보고하는 정직한 방법이에요.

이 레슨의 단어와 기호
과적합, 과소적합
훈련 데이터의 잡음까지 맞추기, 또는 패턴을 맞추기엔 너무 단순하기
검증 세트
설정을 고르는 데 쓰는, 따로 떼어 둔 데이터
편향, 분산
매번 같은 식으로 틀리기, 또는 훈련 데이터에 따라 많이 바뀌기
ridge (alpha)
강도 alpha의 가중치 감쇠가 있는 최소 제곱
내 차례

차수 14 다항식의 계수(가장 낮은 거듭제곱부터)를 반환하는 fit(x, y)를 쓰세요. 0보다 큰 어떤 alpha에 대한 ridge 해 solve(A.T A + alpha I, A.T y)여야 해요(테스트가 확인하니, 0으로 채운 더 작은 다항식은 치지 않아요). 숨겨진 테스트 세트의 오차가 0.045 아래이고 틈(테스트 빼기 훈련)이 0.05 아래면 통과예요. 참고로: 평범한 최소 제곱은 테스트 오차가 약 0.73, 가능한 최선의 alpha는 약 0.034, 그리고 10의 거듭제곱 같은 합리적인 격자에서 검증 세트로 정직하게 고른 alpha는 약 0.034~0.039예요. 평평하게 과하게 줄인 맞춤은 0.045 한도에서 실패해요.

AI 끔: 이 문제에는 튜터도, 힌트도, 풀이도 없어요. 내 생각만으로.

이 레슨에서 문제를 발견했나요? 알려 주세요 · 이 레슨에 대해 묻기

코드 · 브라우저에서 실행
출력

        

진행 상황은 익명으로 집계돼요. 바꾸기