강의 계획 레슨 246개 중 183번째 · 모듈 17: 잡음을 넣으면 그림이 나와요(확산)
모듈 17: 잡음을 넣으면 그림이 나와요(확산)

데이터로 돌아가는 화살표(보기)

왜 중요한가 잡음 없애기는 신경망이 실제로 배우는 걸 보기 전까지 마법처럼 들려요: 잡음 섞인 어떤 점에 대해서든, 깨끗한 데이터가 아마 있었을 곳을 가리키는 화살표. 생성은 그 화살표를 따라 집으로 가는 거예요.

신경망은 더해진 잡음 eps를 예측하도록 훈련돼요. 지름길을 뒤집으면 그 추측이 깨끗한 점의 추측이 돼요:

x0_estimate = (x_t - sqrt(1 - abar_t) eps_predicted) / sqrt(abar_t)

잡음 섞인 각 점에서 그 x0 추정값으로 화살표를 그리면 화살표 장이 생겨요. 장면을 보세요: 같은 점 격자를, 아주 잡음 많은 걸음과 거의 깨끗한 걸음에서.

먼저 예측하세요: 어느 걸음에서 화살표들이 서로 더 일치할까요, 모두 대략 같은 곳을 가리키면서: 걸음 60(아주 잡음 많음) 또는 걸음 10(거의 깨끗함)?

이 레슨의 단어와 기호
abar
여러 걸음 뒤에 남은 원래 신호의 비율(그 제곱근이 x0에 곱해져요)
x0, x_t
깨끗한 데이터, 그리고 t걸음의 잡음 뒤의 같은 데이터
eps
더해진 종 모양 잡음. 신경망이 그걸 예측하는 걸 배워요
내 차례

my_guess를 60이나 10으로 설정하세요. 모델을 훈련하고(difflab.train('spiral'), 몇 초), 그다음 11 x 11 격자에 대해 걸음 60과 걸음 10에서의 x0 추정값을 계산하세요. 두 걸음 모두에 대해 spread(추정값의 퍼짐, est.std(axis=0).mean())와 near(나선까지의 평균 거리, difflab.nearest_distance(est).mean())를 채우세요. 그다음 agree_more를 자기 숫자가 추정값이 더 일치한다고 보여 주는 걸음(60 또는 10)으로 설정하세요. 추측은 한 그대로 남아요.

이 레슨에서 문제를 발견했나요? 알려 주세요 · 이 레슨에 대해 묻기

이 연습은 곧 열려요

앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.