シラバス レッスン 246 中 173 · モジュール 15:押し込み、作り直し、生成する(オートエンコーダーと VAE)
モジュール 15:押し込み、作り直し、生成する(オートエンコーダーと VAE)

あなたの VAE が新しい数字を作る

なぜ大切か 部品はすべてそろっています:エンコーダーの mu と logvar、通してサンプリングする仕掛け、作り直しの損失と KL。それらをひとつの訓練の一歩に入れれば、誰も描かなかった数字を作るモデルができます。

訓練の一歩を言葉で:

  1. バッチを符号化する:mu, logvar = model.encode(E.T(x))。
  2. mu の形で N(0, 1) から eps を引き、自分の再パラメーター化でコードを作る。
  3. コードを画素の点数に復号する:model.decode_logits(code)。
  4. 損失 = E.bce_with_logits(scores, x) + E.kl_to_standard(mu, logvar)(あなたの KL のコースのエンジン版)。
  5. 逆向き、それから opt.step()。

それから前と同じ審査員で判断します:N(0, 1) から引いた 500 の新しい数字の近さと多様さ。作り直しの誤差はオートエンコーダーのものより悪くなります(0.008 に対して約 0.03)。それが引っ張り 2 の代価で、それでサンプリングできるコードの空間が買えます。

このレッスンの言葉と記号
オートエンコーダー
絵をいくつかの数に押し込むエンコーダーと、それを作り直すデコーダー
コード(潜在)
エンコーダーがひとつの絵から作るいくつかの数
VAE
変分オートエンコーダー:コードが N(0, 1) を満たすよう引っ張られるオートエンコーダーで、ランダムなコードが新しい絵に復号される
mu、logvar
VAE のコードの数の中心と、広がりの 2 乗の対数
再パラメーター化
code = mu + exp(logvar / 2) x eps、eps を先に引くので、勾配が mu と logvar に届く
近さ、多様さ
コースの審査員:最も近い本物の数字への距離と、10 の数字の上の広がりのビット
あなたの番

訓練のループの本体を書いてください(256 枚の絵の 600 ステップ)。合格の条件:テストの作り直しの誤差が 0.035 未満、近さが多くとも 1.30 で多様さが少なくとも 3.0 の新しい数字、そして少なくとも 3 つの働いているコードの数。自分のループを使ってください:ここでは gen.train_vae は使えません。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。