강의 계획 레슨 246개 중 178번째 · 모듈 16: 게임 속의 두 신경망(GAN, 선택)
모듈 16: 게임 속의 두 신경망(GAN, 선택)

일부러 일으킨 모드 붕괴

왜 중요한가 가장 흔한 GAN 실패는 성공처럼 보여요: 모든 샘플이 선명하고 그럴듯하지만, 모두 거의 같아요. 그걸 모드 붕괴라고 해요(각 덩어리가 데이터의 "모드"예요). 일으킬 수 없는 건 고칠 수 없으니, 여기서 일으켜 봐요.

왜 일어나는가: G는 오늘의 D만 속이면 돼요. 덩어리 하나가 D를 가장 잘 속이면 G는 모든 걸 거기에 둬요. D는 그 덩어리가 수상하다는 걸 배우고, G는 다른 덩어리로 뛰고, 둘은 G가 결코 퍼지지 않은 채 고리를 따라 서로 쫓을 수 있어요.

ganlab.train(...)은 지난 레슨과 같은 GAN을 다음 설정 중 무엇으로든 훈련해요: noise(G가 받는 잡음 숫자 수, 기본 2), d_steps(G 걸음당 D 걸음, 1), g_lr과 d_lr(각각 1e-3), loss, smooth, instance_noise, spectral. 기록된 실행 ganlab.recorded()는 몇몇 설정을 시드 8개에 걸쳐 보여 줘요.

붕괴는 적은 덩어리 그리고 선명한 점을 뜻해요. 점을 사방에 흩뿌리는 생성기도 적은 덩어리를 덮지만, 그건 다른 실패예요: 덩어리를 아예 배우지 못한 거예요.

이 레슨의 단어와 기호
GAN
생성적 적대 신경망: 서로 맞서 훈련하는 생성기와 판별기
생성기 (G)
잡음을 샘플로 바꾸는 신경망
모드 붕괴
생성기가 몇 종류의 샘플만 만들고, 각각은 그럴듯해요
덮은 덩어리, 품질
고리 심판: 점의 2%보다 많이 받은 덩어리, 그리고 덩어리 위에 떨어진 점의 비율
내 차례

시드 0에서 GAN을 붕괴시키는 설정을 찾으세요: 덮은 덩어리 많아야 3개, 품질 적어도 0.6. 그걸 settings에 넣으세요. 각 시도를 짧게 하려고 이 레슨은 학습률 0.002로 1000걸음 훈련해요(설정해 뒀어요. 보여 주는 붕괴는 2000걸음에서와 같아요). GAN 자체의 설정(noise, 3까지의 d_steps, loss, smooth, instance_noise, spectral)만 바꾸세요. 시드, 걸음, 학습률은 주어진 대로 둬요. 그다음 looks_like를 붕괴를 묘사하는 글자로 설정하세요.

이 레슨에서 문제를 발견했나요? 알려 주세요 · 이 레슨에 대해 묻기

이 연습은 곧 열려요

앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.