Две тяги на каждый код (посмотрите)
Почему это важно Исправление - заставить коды заполнять пространство известной формой, чтобы случайные точки из этой формы попадали туда, где декодер научился рисовать. Вариационный автокодировщик (VAE) делает это двумя тягами на каждый код.
Сначала посмотрите сцену. Каждый символ - одна тестовая цифра, нарисованная там, куда её ставят 2 числа кода, в виде самой цифры; семёрки цветные, чтобы можно было следить за одной группой.
- Тяга 1, хорошо восстанавливать: коды разных цифр должны оставаться порознь, иначе декодер не сможет их различить.
- Тяга 2, держаться у центра: каждый код тянется к центру и становится немного размытым (небольшое облачко, а не точка), поэтому коды заполняют колоколообразную кривую N(0, 1) вокруг центра без пробелов.
Тогда выборка значит: возьмите точку из N(0, 1) и декодируйте её. Поскольку коды заполняют эту область, точка попадает туда, где декодер знает, что делать.
В VAE кодировщик даёт по две вещи на каждое число кода: центр mu и разброс, записанный как logvar (логарифм квадрата разброса, который может быть любым числом). Код - это выборка из N(mu, spread). gen.train_vae обучает такой; rebuild_weight и weight задают силу каждой тяги.
Сначала предскажите: если убрать тягу 2, что произойдёт с кодами? А если убрать тягу 1?
Слова и символы этого урока
- автокодировщик
- кодировщик, сжимающий картинку в несколько чисел, и декодер, который её восстанавливает
- код (латентный)
- несколько чисел, которые кодировщик делает из одной картинки
- VAE
- вариационный автокодировщик: автокодировщик, коды которого притягиваются заполнить N(0, 1), так что случайные коды декодируются в новые картинки
- mu, logvar
- центр и логарифм квадрата разброса числа кода в VAE
Присвойте guess для обоих удалений одно из "spread out", "all at the centre" или "no change". Затем обучите три VAE с 2 числами (по секунде-другой каждый в браузере) и заполните spread средним расстоянием тестовых кодов от центра, а noise - средним разбросом exp(logvar / 2), для каждого.
Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке
Это упражнение откроется скоро
Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.
Этот браузер блокирует cookies для learn.floati.life, поэтому завершенные здесь уроки не могут открыться по порядку. Разрешите cookies для этого сайта и перезагрузите страницу.