一歩ずつノイズを足す
なぜ大切か 今日の AI アートの裏の画像の生成器は、ノイズから逆向きに働きます。ノイズを取り除くことを学ぶには、ネットワークはまずノイズがどう足されたかを正確に見る必要があります。その前向きの半分は純粋な計算で、訓練を可能にする近道があります。
きれいな点 x0(画素の値か、2 次元の点)を取ります。T = 100 の歩みのそれぞれで、それを少し縮め、少し新しいノイズを足します:
x_t = sqrt(1 - beta_t) x_(t-1) + sqrt(beta_t) eps、eps は N(0, 1) から引く
リスト beta_0 ... beta_99 が ノイズの予定表 です。場面を見てください:点の渦巻きが丸いノイズの雲に溶けていきます。
近道
縮めて釣鐘曲線のノイズを足すことを何度も何度も繰り返すのは、合計で一度それをするのと同じです。歩み t までのすべての (1 - beta) の因子の積を abar_t と書きます。すると
x_t = sqrt(abar_t) x0 + sqrt(1 - abar_t) eps
が一度に成り立ちます:残る信号は sqrt(abar_t)、ノイズの広がりは sqrt(1 - abar_t)。訓練はそこまで歩く代わりに、どの歩みにも瞬時に跳べます。
小さな数
それぞれ beta = 0.1 の 2 歩:abar = 0.9 x 0.9 = 0.81。x0 = 1 から、残る信号は sqrt(0.81) = 0.9、ノイズの広がりは sqrt(0.19) = 0.44。歩くと:1 歩目のあと、0.949 x 1 足す広がり 0.316 のノイズ。2 歩目のあと、すべてがまた 0.949 縮み、広がり 0.316 の新しいノイズが加わる。広がりは 2 乗として足し合わさる:0.949^2 x 0.1 + 0.1 = 0.19。同じ答えです。
このレッスンの言葉と記号
- ノイズの予定表(beta)
- それぞれの一歩でどれだけの新しいノイズを混ぜるか
- abar
- いくつかの歩みのあとに残る元の信号の割合(その平方根が x0 に掛かる)
- x0、x_t
- きれいなデータと、t 歩のノイズのあとの同じデータ
- eps
- 足された釣鐘曲線のノイズ。ネットワークはそれを予測することを学ぶ
walk(x0, t, beta, rng)(一度に一歩、歩み 0 から歩み t までの t + 1 歩)と jump(x0, t, abar, eps)(近道)を書いてください。それから点 (1.0, -0.5) の 20000 の写しを両方のやり方で歩み 40 までノイズにし、それぞれの版の平均と広がり(座標ごと)を、予定表がそうあるべきだと言うものの隣に stats に埋めてください。
この演習はまもなく開きます
その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。
このブラウザは learn.floati.life の Cookie をブロックしているため、ここで修了したレッスンを順番どおりに開けません。このサイトの Cookie を許可して再読み込みしてください。