シラバス レッスン 246 中 188 · モジュール 17:ノイズを入れて、絵を出す(拡散)
モジュール 17:ノイズを入れて、絵を出す(拡散)

小さな U-Net

なぜ大切か 絵では、本物の拡散モデルのノイズの予測器は U-Net です:大きな形を見るために絵を押し縮め、それから完全な大きさまで育て直し、細部を横に運ぶ近道を持ちます。部品はすべてもう知っています。

1 チャンネルの 8 x 8 の絵のための U-Net:

  1. 下り:16 チャンネルへの 3 x 3 の conv、ReLU。これを skip(8 x 8 x 16)として取っておく。それから 2 x 2 の平均プーリングで 4 x 4 に。
  2. 真ん中:32 チャンネルへの 3 x 3 の conv、ReLU(4 x 4 x 32):それぞれのユニットが今は広い範囲を見る。
  3. 上り:8 x 8 にアップサンプリングし、それからチャンネルに沿って skip とつなぐ(E.concat):8 x 8 x 48。
  4. 16 チャンネルへの 3 x 3 の conv、ReLU、それから 1 チャンネルへの 3 x 3 の conv:予測したノイズ、入力と同じ大きさ。

スキップ接続が U-Net の鍵の考えです:下りの道は形を見るために細部を捨て、スキップはその細部をまっすぐ上りの道に手渡します。それがなければ、出力はぼやけます。

ここでは訓練はありません:それを作り、モジュール 4 で層を確かめたやり方で、形と勾配の確認で正しく配線されていることを証明します。

このレッスンの言葉と記号
拡散モデル
少しずつノイズを取り除くよう訓練したネットワーク。純粋なノイズから逆に走らせると生成する
U-Net
形を見るために絵を縮め、育て直し、スキップ接続を通して細部を横に渡すネットワーク
あなたの番

形 (n, 8, 8, 1) の E.T である x について、始めのコードが作った P の重みで unet(x, P) を書いてください。それから少しの動きでひとつの勾配を確かめます:max_gap を、P['up2'][0] の最初の 5 つの数の上での逆伝播と少しの動きの最大の差に設定してください。エンジンは float32 で働くので、h = 1e-3 以上で動かしてください:1e-4 では損失の変化は丸めに埋もれ、正しい勾配が間違って見えます。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。