Zero-Shot против Few-Shot: когда показывать примеры
Zero-shot означает, что вы просто описываете задачу. Few-shot означает, что вы также вставляете несколько решенных примеров перед реальным вводом. Few-shot обычно повышает качество, но это стоит токенов и задержки при каждом вызове, поэтому это решение, а не рефлекс.
Правило, которое работает в продакшене:
- Если у вас нет примеров для демонстрации, вы по определению zero-shot. Добавлять нечего.
- Если задаче нужен специфический формат вывода (точная структура JSON, фиксированный набор меток), примеры это самый дешевый способ закрепить его. Используйте few-shot.
- Если задача представляет собой fuzzy pattern , который трудно описать словами (тон, классификация крайних случаев, стиль), примеры обучают лучше, чем текст. Используйте few-shot.
- В противном случае достаточно четкой инструкции. Оставайтесь в режиме zero-shot и экономьте токены.
Блок few-shot для интуиции просто ставит примеры перед запросом:
Classify the sentiment.
Text: I love it -> positive
Text: total waste -> negative
Text: it is fine -> ?Вы напишете decision layer, который выбирает стратегию. Создайте choose_strategy(task), где task это словарь с n_examples_available (int), needs_specific_format (bool) и is_fuzzy_pattern (bool). Верните строку "zero-shot" или "few-shot".
Порядок важен: no examples всегда означает zero-shot, даже если другие флаги истинны, потому что у вас буквально ничего нет для показа. Только когда примеры существуют, флаги format и fuzziness переводят вас в few-shot. Нажмите Run, чтобы оценить.
Напишите choose_strategy(task), возвращающий "zero-shot" или "few-shot" из словаря с ключами n_examples_available (int), needs_specific_format (bool), is_fuzzy_pattern (bool). Если примеров нет, всегда возвращайте "zero-shot". В противном случае возвращайте "few-shot", если задаче нужен конкретный формат ИЛИ это размытый паттерн, и "zero-shot", если это ни то, ни другое.
Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке
Это упражнение откроется скоро
Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.
Этот браузер блокирует cookies для learn.floati.life, поэтому завершенные здесь уроки не могут открыться по порядку. Разрешите cookies для этого сайта и перезагрузите страницу.