Меньше шагов (DDIM)
Почему это важно 100 вызовов сети на картинку - это медленно, а настоящие модели используют 1000. DDIM (Song, Meng и Ermon, 2021) пропускает шаги: прыгает от x_t сразу к гораздо более раннему шагу, без свежего шума, с той же обученной сетью. Сколькими шагами можно обойтись?
Модель цифр курса обучена один раз (difflab.recorded_digit_model()). difflab.sample_digits(model, labels, w=2.0, steps=k) рисует по одной картинке на метку за k шагов DDIM (steps=None выполняет все 100 шагов DDPM). Судья из модуля 15 их оценивает: близость к ближайшей настоящей цифре (у настоящих цифр 1.04).
Угадайте кривую
Перед измерением угадайте близость при 2, 5, 10, 20 и 100 шагах. В статьях и блогах часто пишут, что качество заметно падает ниже 50 шагов. Измерьте это на этой модели.
Слова и символы этого урока
- x0, x_t
- чистые данные и те же данные после t шагов шума
- eps
- добавленный колоколообразный шум; сеть учится его предсказывать
- DDPM
- сэмплирование шагами назад через каждый шаг, со свежим шумом каждый раз
- DDIM
- сэмплирование прыжками между несколькими шагами, без свежего шума
Заполните my_guess (пять чисел близости), затем заполните measured настоящей близостью при каждом числе шагов и присвойте fewest_good наименьшее число шагов, при котором близость в пределах 0.05 от результата при 100 шагах.
Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке
Это упражнение откроется скоро
Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.
Этот браузер блокирует cookies для learn.floati.life, поэтому завершенные здесь уроки не могут открыться по порядку. Разрешите cookies для этого сайта и перезагрузите страницу.