Ранняя остановка
Почему это важно Самый дешёвый регуляризатор из всех: остановите обучение, когда модель перестаёт улучшаться на валидационных данных.
Потери на валидации шумные: они могут подняться на одну эпоху, а потом снова упасть. Поэтому не останавливайтесь при первом росте. Используйте терпение: остановитесь, когда потери на валидации не смогли превзойти свой лучший результат patience эпох подряд, и оставьте модель с лучшей эпохи.
Маленькие числа
Потери 1,0, 0,8, 0,7, 0,72, 0,69, 0,71, 0,73, 0,74 при терпении 2: лучшее - 0,69 на эпохе 5. Эпохи 6 и 7 его не превосходят, поэтому остановитесь после эпохи 7 и оставьте эпоху 5.
Слова и символы этого урока
- терпение
- сколько эпох без улучшения до остановки
Напишите early_stop(val_losses, patience), возвращающую (stop_epoch, best_epoch), обе считая с 1. Если терпение так и не кончилось, stop_epoch - последняя эпоха.
Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке
Это упражнение откроется скоро
Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.
Этот браузер блокирует cookies для learn.floati.life, поэтому завершенные здесь уроки не могут открыться по порядку. Разрешите cookies для этого сайта и перезагрузите страницу.