강의 계획 레슨 246개 중 177번째 · 모듈 16: 게임 속의 두 신경망(GAN, 선택)
모듈 16: 게임 속의 두 신경망(GAN, 선택)

덩어리 여덟 개에서의 게임

왜 중요한가 그림은 GAN이 무엇을 잘못하는지 숨겨요. 2D 점은 그렇지 않아요: 생성기가 데이터의 어느 부분을 찾았고 어느 부분을 놓쳤는지 바로 볼 수 있어요.

진짜 데이터: 원 위의 촘촘한 덩어리 8개. 좋은 생성기는 8개 덩어리 모두에 대략 고르게 점을 둬요. 심판 ganlab.coverage(points)는 숫자 둘을 줘요: 덮은 덩어리(점의 2%보다 많이 받은 덩어리를 쳐요)와 품질(어떤 덩어리 위에든 떨어진 점의 비율).

장면을 보세요: 진짜 덩어리, 그다음 훈련된 생성기의 점이 떨어지는 곳, 그다음 붕괴한 생성기.

훈련 걸음 하나에는 반쪽이 둘 있어요:

  1. D의 차례. 진짜 점 배치(ganlab.ring(128, rng))와 가짜 배치. D의 걸음이 G 안까지 닿지 않도록 가짜는 평범한 숫자(.data)로 가져오세요. 손실 = BCE(score(real), 1) + BCE(score(fake), 0). D를 한 걸음.
  2. G의 차례. 새 잡음, 생성, D로 점수 매기기, 손실 = BCE(score, 1): 비포화 손실. G를 한 걸음. 이 역방향 단계는 D의 기울기도 채웠으니, 다시 None으로 설정하세요, 아니면 D의 다음 걸음으로 새어 들어가요.

GAN은 첫 beta가 0.5인 Adam을 써요(강좌 Adam은 b1을 받아요). 강좌가 이유를 쟀어요: 기본값 0.9면 같은 GAN이 시드 5개에 걸쳐 덩어리 1~7개를 덮었고, 0.5면 7~8개를 덮었어요.

이 레슨의 단어와 기호
GAN
생성적 적대 신경망: 서로 맞서 훈련하는 생성기와 판별기
생성기 (G)
잡음을 샘플로 바꾸는 신경망
포화 손실
G가 log(1 - D(G(z)))를 최소화해요. D가 확신하면 기울기가 약 0이라 G가 배우기를 멈춰요
비포화 손실
G가 -log D(G(z))를 최소화해요. 같은 목표, D가 확신할 때도 온전한 밀기
덮은 덩어리, 품질
고리 심판: 점의 2%보다 많이 받은 덩어리, 그리고 덩어리 위에 떨어진 점의 비율
내 차례

훈련 반복문의 몸통을 쓰세요: 2000걸음(브라우저에서 약 4초). 덮은 덩어리 적어도 7개, 품질 적어도 0.5로 통과하세요. 반복문은 직접 쓰세요: 여기서 ganlab.train은 금지예요.

이 레슨에서 문제를 발견했나요? 알려 주세요 · 이 레슨에 대해 묻기

이 연습은 곧 열려요

앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.