シラバス レッスン 246 中 185 · モジュール 17:ノイズを入れて、絵を出す(拡散)
モジュール 17:ノイズを入れて、絵を出す(拡散)

ノイズから渦巻きへ(DDPM)

なぜ大切か これがノイズがデータになる瞬間です。純粋なノイズから始め、100 の小さな歩みを戻り、それぞれでネットワークを一度使います。ここで書くループは、形としては、今日の画像の生成器で絵を描くものと同じです。

x_t から x_(t-1) への一歩の戻り、DDPM のやり方:

  1. ノイズを予測し、そこからきれいな推定 x0 を予測する(前のレッスン)。
  2. x0 を本物のデータが持ちうる範囲(ここでは -3 から 3)に 切り詰める。
  3. x_t と x0 を与えられたとき、x_(t-1) がいるはずの場所のちょうどの平均に動く:
    mean = (sqrt(abar_(t-1)) beta_t / (1 - abar_t)) x0 + (sqrt(1 - beta_t) (1 - abar_(t-1)) / (1 - abar_t)) x_t
  4. 最後の一歩を除いて、広がり sqrt(beta_t (1 - abar_(t-1)) / (1 - abar_t)) の新しいノイズを足す。(abar_(-1) は 1 と数える。)

なぜ切り詰めるのか? コースは痛い目にあって知りました。cosine の予定表の最後の数歩では beta が 0.999 に届くので、素の一歩は予測したノイズのどんな誤差も約 30 倍にします。切り詰めなしでは、コースの数字のモデルは数字より混ぜた画素に近い絵を描きました(近さ 4.68)。ありでは 1.09。

このレッスンの言葉と記号
ノイズの予定表(beta)
それぞれの一歩でどれだけの新しいノイズを混ぜるか
abar
いくつかの歩みのあとに残る元の信号の割合(その平方根が x0 に掛かる)
x0、x_t
きれいなデータと、t 歩のノイズのあとの同じデータ
eps
足された釣鐘曲線のノイズ。ネットワークはそれを予測することを学ぶ
DDPM
どの歩みも、毎回新しいノイズとともにさかのぼってサンプリングすること
形の上、おおい
2 次元の審査員:本物の形の近くの標本の割合と、近くに標本がある形の割合
あなたの番

上の 4 つの手順のとおりに step_back(x, eps_pred, t, beta, abar, rng)(x0 を -3 から 3 に切り詰め、平均、それから t = 0 を除いてノイズ)を、そして歩み 99 で N(0, 1) のノイズから始めて 0 まで戻るサンプリングのループ generate(model, n, rng) を書いてください。標本が渦巻きの上に少なくとも 0.8、おおいが 0.95 なら合格です。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。