Промпт-инжиниринг
Так как всё, что модель знает о вашей задаче, поступает из промпта, написание хороших промптов это настоящий навык. Два принципа несут основную нагрузку.
Будьте конкретны, а не расплывчаты
нечеткий промпт приглашает к нечеткому (или неправильному) ответу. Сравните:
# vague
"summarize this"
# specific
"Summarize this in 2 sentences for a non-technical reader. "
"Lead with the single most important number."Укажите формат, аудиторию, длину и на чем сфокусироваться. Модель не умеет читать мысли; это предсказатель текста.
Показать примеры (few-shot prompting)
Самый надежный трюк это show модели несколько пар входных и выходных данных перед вашим реальным вопросом. Это называется few-shot промптингом, и это учит паттерну гораздо лучше, чем описание:
Classify the sentiment.
Input: good
Output: positive
Input: awful
Output: negative
Input: great
Output:Модель видит форму задачи и продолжает ее, заполняя финальный Output:. Оставление последней строки открытой служит сигналом к ответу.
Попробуйте по-настоящему
В приложении Floati после загрузки модели на устройстве вы можете передать ей строку прямо так (например await engine.chat(prompt) в панели ИИ) и увидеть, как она допишет последнюю строку. Мы не можем запустить живую модель внутри этого грейдера (ей нужен WebGPU и она недетерминированная), поэтому здесь вы построите prompt string, который является частью, которую вы полностью контролируете.
Напишите few_shot_prompt(task, examples, query). Она возвращает строку: строка task, затем пустая строка, затем каждый пример (inp, out), представленный как строка Input: <inp>, за которой следует строка Output: <out>, затем финальная строка Input: <query> и завершающая Output: для модели. Соедините все через переносы строк. Затем установите prompt = few_shot_prompt("Classify the sentiment.", examples, "great").
Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке
Это упражнение откроется скоро
Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.
Этот браузер блокирует cookies для learn.floati.life, поэтому завершенные здесь уроки не могут открыться по порядку. Разрешите cookies для этого сайта и перезагрузите страницу.