ノイズから渦巻きへ(DDPM)
なぜ大切か これがノイズがデータになる瞬間です。純粋なノイズから始め、100 の小さな歩みを戻り、それぞれでネットワークを一度使います。ここで書くループは、形としては、今日の画像の生成器で絵を描くものと同じです。
x_t から x_(t-1) への一歩の戻り、DDPM のやり方:
- ノイズを予測し、そこからきれいな推定 x0 を予測する(前のレッスン)。
- x0 を本物のデータが持ちうる範囲(ここでは -3 から 3)に 切り詰める。
- x_t と x0 を与えられたとき、x_(t-1) がいるはずの場所のちょうどの平均に動く:
mean = (sqrt(abar_(t-1)) beta_t / (1 - abar_t)) x0 + (sqrt(1 - beta_t) (1 - abar_(t-1)) / (1 - abar_t)) x_t - 最後の一歩を除いて、広がり
sqrt(beta_t (1 - abar_(t-1)) / (1 - abar_t))の新しいノイズを足す。(abar_(-1) は 1 と数える。)
なぜ切り詰めるのか? コースは痛い目にあって知りました。cosine の予定表の最後の数歩では beta が 0.999 に届くので、素の一歩は予測したノイズのどんな誤差も約 30 倍にします。切り詰めなしでは、コースの数字のモデルは数字より混ぜた画素に近い絵を描きました(近さ 4.68)。ありでは 1.09。
このレッスンの言葉と記号
- ノイズの予定表(beta)
- それぞれの一歩でどれだけの新しいノイズを混ぜるか
- abar
- いくつかの歩みのあとに残る元の信号の割合(その平方根が x0 に掛かる)
- x0、x_t
- きれいなデータと、t 歩のノイズのあとの同じデータ
- eps
- 足された釣鐘曲線のノイズ。ネットワークはそれを予測することを学ぶ
- DDPM
- どの歩みも、毎回新しいノイズとともにさかのぼってサンプリングすること
- 形の上、おおい
- 2 次元の審査員:本物の形の近くの標本の割合と、近くに標本がある形の割合
上の 4 つの手順のとおりに step_back(x, eps_pred, t, beta, abar, rng)(x0 を -3 から 3 に切り詰め、平均、それから t = 0 を除いてノイズ)を、そして歩み 99 で N(0, 1) のノイズから始めて 0 まで戻るサンプリングのループ generate(model, n, rng) を書いてください。標本が渦巻きの上に少なくとも 0.8、おおいが 0.95 なら合格です。
この演習はまもなく開きます
その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。
このブラウザは learn.floati.life の Cookie をブロックしているため、ここで修了したレッスンを順番どおりに開けません。このサイトの Cookie を許可して再読み込みしてください。