Дообучите GPT на вашем собственном тексте
Почему это важно Это повседневное использование: общая модель, ваш текст, дешевый адаптер. Тест показывает, выучил ли он ваш текст и сохранил ли остальное.
Поместите свой текст в my_text: заметки, эссе, написанный вами код, минимум 5,000 символов (по умолчанию используется фрагмент решений на Python, чтобы урок работал как задано). Символы, которые модель никогда не видела, удаляются. Последние 20% откладываются для тестирования.
Обучите LoRA, rank 8, в течение 60 шагов по 8 окон. Проходите дальше, когда зарезервированная часть вашего текста набирает как минимум на 0.3 баллов больше, чем базовая модель, и English loss вырос менее чем на 0.5. Для масштаба, на стандартном тексте: LoRA повышает English примерно на 0.29, полное дообучение примерно на 0.69, и оба метода учат текст примерно одинаково хорошо.
Слова и символы в этом уроке
- fine-tuning
- продолжение обучения обученной модели на новых данных
- LoRA
- low-rank adaptation: замороженная матрица весов плюс две тонкие обучаемые матрицы, x W + (alpha / r) x A B
- rank (r)
- насколько тонкими являются две матрицы LoRA: (d_in + d_out) x r обучаемых весов на матрицу
Заполните base_scores и tuned_scores: (потери на английском, потери на отложенных 20% вашего текста) до и после обучения модели LoRA.
Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке
Это упражнение откроется скоро
Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.
Этот браузер блокирует cookies для learn.floati.life, поэтому завершенные здесь уроки не могут открыться по порядку. Разрешите cookies для этого сайта и перезагрузите страницу.