Итоговый проект: Конвейер промптов для продакшена (Сортировка тикетов)
Это финал: вы подключаете весь модуль в один продакшен-конвейер промптов для сортировки тикетов поддержки. Приходит сырой тикет; вы должны защититься от инъекций, соблюдать Budget, собрать few-shot prompt и затем проверить любой JSON, который возвращает модель. Модель классифицирует тикет (этот один шаг это LLM, и это единственная часть без оценки). Все остальное вокруг это инженерная работа, за которую отвечаете вы.
Соберите сборщик промптов. build_triage_prompt(ticket, budget=200):
- Прогоняет билет через обнаружение инъекций. Если есть подозрения, тело билета становится
[blocked input]и сырой payload никогда не попадает в prompt. - В противном случае обрезает билет до
budgetсимволов (билеты могут быть огромными; вы платите за каждый токен). - Собирает инструкцию
[system], затем два примера few-shotTicket: ... / JSON: ..., затем огражденный настоящий билет, заканчивая строкой[assistant].
Создайте валидатор вывода. parse_triage(model_json) json.loads ответ модели внутри try/except и проверяет два перечисления: category в {billing, technical, account, general} и urgency в {low, medium, high}. Верните {"ok": bool, "errors": [...]}.
parse_triage('{"category": "billing", "urgency": "high"}') # ok True
parse_triage('{"category": "weather", "urgency": "high"}') # ok False
parse_triage('not json at all') # ok False, no crashЕсли ваш тьютор включен, модель на устройстве может создать JSON, который parse_triage затем проверяет, замыкая цикл в реальном времени. Но проверка затрагивает только детерминированные части: prompt имеет правильную структуру, блокирует injections, обрезает слишком большие tickets, а validator принимает хороший output и отклоняет плохой. Используйте is_suspicious и wrap_user_input из урока по injection, они включены в starter. Нажмите Run, чтобы проверить.
Напишите build_triage_prompt(ticket, budget=200): detect injection (suspicious -> ticket body становится [blocked input], payload absent), иначе сократите до budget символов; соберите строку [system], два few-shot примера Ticket:/JSON:, настоящий ticket в ограждении и завершающий [assistant]. Настоящий ticket идет на отдельной строке, начинающейся с Ticket: , как в примерах, с телом в ограждении wrap_user_input (из урока по injection). Напишите parse_triage(model_json), что json.loads в try/except и проверяет category в {billing,technical,account,general} и urgency в {low,medium,high}, возвращая {"ok", "errors"}.
Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке
Это упражнение откроется скоро
Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.
Этот браузер блокирует cookies для learn.floati.life, поэтому завершенные здесь уроки не могут открыться по порядку. Разрешите cookies для этого сайта и перезагрузите страницу.