より少ない歩み(DDIM)
なぜ大切か 絵ごとに 100 回のネットワークの呼び出しは遅く、本物のモデルは 1000 を使います。DDIM(Song、Meng、Ermon、2021)は歩みを飛ばします:同じ訓練したネットワークを使い、新しいノイズなしで、x_t からずっと前の歩みへまっすぐ跳びます。どれだけ少ない歩みで済ませられるでしょうか?
コースの数字のモデルは一度訓練されました(difflab.recorded_digit_model())。difflab.sample_digits(model, labels, w=2.0, steps=k) は k の DDIM の歩みで、ラベルごとに 1 枚の絵を描きます(steps=None は 100 の DDPM の歩みすべてを走らせる)。モジュール 15 の審査員がそれに点数をつけます:最も近い本物の数字への近さ(本物の数字は 1.04)。
曲線を当てる
測る前に、2、5、10、20、100 の歩みでの近さを予想してください。論文やブログの記事は、50 の歩みより下では質が目に見えて落ちるとよく言います。このモデルでそれを測ってください。
このレッスンの言葉と記号
- x0、x_t
- きれいなデータと、t 歩のノイズのあとの同じデータ
- eps
- 足された釣鐘曲線のノイズ。ネットワークはそれを予測することを学ぶ
- DDPM
- どの歩みも、毎回新しいノイズとともにさかのぼってサンプリングすること
- DDIM
- 新しいノイズなしで、いくつかの歩みの間を跳んでサンプリングすること
my_guess(5 つの近さの数)を埋め、それからそれぞれの歩みの数での本当の近さで measured を埋め、fewest_good を、近さが 100 の歩みの結果から 0.05 以内である最も少ない歩みに設定してください。
この演習はまもなく開きます
その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。
このブラウザは learn.floati.life の Cookie をブロックしているため、ここで修了したレッスンを順番どおりに開けません。このサイトの Cookie を許可して再読み込みしてください。