Программа курса Урок 212 из 246 · Модуль 20: Дешевая адаптация обученной модели
Модуль 20: Дешевая адаптация обученной модели

Дообучите GPT на вашем собственном тексте

Почему это важно Это повседневное использование: общая модель, ваш текст, дешевый адаптер. Тест показывает, выучил ли он ваш текст и сохранил ли остальное.

Поместите свой текст в my_text: заметки, эссе, написанный вами код, минимум 5,000 символов (по умолчанию используется фрагмент решений на Python, чтобы урок работал как задано). Символы, которые модель никогда не видела, удаляются. Последние 20% откладываются для тестирования.

Обучите LoRA, rank 8, в течение 60 шагов по 8 окон. Проходите дальше, когда зарезервированная часть вашего текста набирает как минимум на 0.3 баллов больше, чем базовая модель, и English loss вырос менее чем на 0.5. Для масштаба, на стандартном тексте: LoRA повышает English примерно на 0.29, полное дообучение примерно на 0.69, и оба метода учат текст примерно одинаково хорошо.

Слова и символы в этом уроке
fine-tuning
продолжение обучения обученной модели на новых данных
LoRA
low-rank adaptation: замороженная матрица весов плюс две тонкие обучаемые матрицы, x W + (alpha / r) x A B
rank (r)
насколько тонкими являются две матрицы LoRA: (d_in + d_out) x r обучаемых весов на матрицу
Твоя очередь

Заполните base_scores и tuned_scores: (потери на английском, потери на отложенных 20% вашего текста) до и после обучения модели LoRA.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Это упражнение откроется скоро

Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.