Программа курса Урок 163 из 246 · Модуль 14: Клиника запусков II
Модуль 14: Клиника запусков II

Диагноз только по записи

Почему это важно Часто ничего нельзя перезапустить: запуск был чужим или стоил неделю. Всё, что у вас есть, - то, что было записано в лог. Два записанных эксперимента этого курса содержат настоящие провалы.

В gpt-width-lr настройка сломана своей скоростью обучения, если её итоговые потери на отложенных данных, усреднённые по трём записанным seed, больше чем на 0.5 хуже лучшей настройки той же ширины. В cnn-depth-shortcuts отдельный запуск застрял, если его точность на тесте в точности одинакова на каждой эпохе: он отвечает одним классом на всё (классов фигур четыре, так что около 0.25).

Предскажите, прежде чем смотреть: какие запуски GPT сломаны и какая CNN застряла?

Твоя очередь

Заполните broken парами (width, lr), а stuck - тройками (depth, shortcuts, seed), вычисленными по записям. exp.seeds(d=..., lr=...) даёт три запуска одной настройки.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Это упражнение откроется скоро

Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.