Программа курса Урок 95 из 250 · Ваши первые модели машинного обучения
Ваши первые модели машинного обучения

Недообучение и переобучение

Это центральное противоречие во всем машинном обучении, и теперь у вас есть инструменты, чтобы увидеть это напрямую. Модель может ошибаться двумя противоположными способами.

  • Недообучение: модель слишком проста, чтобы уловить закономерность. Она плохо работает и на обучающих данных, и на тестовых данных. Представьте, что вы проводите прямую линию через данные, которые явно изгибаются.
  • Переобучение: модель слишком сложная и запоминает обучающие данные, включая шум и странности. Она показывает отличный результат на обучении, но плохой на тесте, потому что она выучила конкретные примеры вместо общего правила.
Сложность

дерева решений контролируется max_depth, количеством слоев вопросов, которые ему разрешено:

shallow = DecisionTreeClassifier(max_depth=1, random_state=0)   # too simple
deep    = DecisionTreeClassifier(max_depth=None, random_state=0) # unlimited
Дерево глубины

A может задать только один вопрос, поэтому оно вынуждено быть грубым и склонно к недообучению. Дерево с неограниченной глубиной продолжает деление до тех пор, пока не изолирует строки обучения, поэтому оно может довести training accuracy до идеальных 1.0, при этом показывая худшие результаты на невидимых строках test.

Признак переобучения это gap: training accuracy намного выше, чем test accuracy. Весь процесс настройки модели заключается в поиске средней сложности, которая хорошо работает на test data, так как это единственный счет, который имеет значение.

Вы обучите и неглубокое, и глубокое дерево, запишете train и test accuracy для каждого и вычислите разрыв переобучения, чтобы связь была видна прямо в цифрах.

Твоя очередь

Уже подготовлены шумный набор данных и разделение на train/test. Обучите shallow = DecisionTreeClassifier(max_depth=1, random_state=0) и deep = DecisionTreeClassifier(max_depth=None, random_state=0) на тренировочных данных. Запишите четыре числа: shallow_train, shallow_test, deep_train, deep_test (accuracy на соответствующем наборе для каждого дерева). Затем установите overfit_gap = deep_train - deep_test.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Это упражнение откроется скоро

Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.