Программа курса Урок 214 из 250 · Проект: Помощник службы поддержки клиентов
Проект: Помощник службы поддержки клиентов

Получение + Построение Grounded Prompt

Retrieval работает -- вы можете находить нужные статьи. Теперь наступает этап, который делает RAG надежным, а не уверенным лжецом: grounding. Вы передаете языковой модели извлеченный текст и даете инструкцию отвечать only на основе этого текста, и говорить об этом, если ответа там нет. Модель никогда не видит ваши исходные документы; она видит промпт, который вы собираете. Значит, промпт is продукт. Этот урок создает такой промпт.

Здесь решается судьба галлюцинаций. Бот поддержки, который выдумывает окно возврата, хуже чем бесполезен. Он становится угрозой. Решение заключается в дисциплинированном промпте из трех частей: извлеченные фрагменты, огражденные и пронумерованные так, чтобы модель могла на них ссылаться, вопрос пользователя и явный escape hatch на случай, когда контекст не содержит ответа.

Напишите одну function:

assemble_prompt(query, retrieved_chunks)  # -> the full prompt string

Это должно быть, в порядке:

  • Укажите правило, что ассистент отвечает только используя контекст ниже.
  • Включите эту строку точно, символ в символ: If the answer is not in the context, reply exactly: I do not know.
  • Откройте раздел CONTEXT:, затем перечислите каждый фрагмент с номером и в кавычках, как [1] за которым идет текст фрагмента в тройных кавычках, затем [2], и так далее -- в указанном порядке.
  • Добавьте вопрос пользователя на QUESTION: строке.
  • Закончите на открытом ответе -- это финальная ANSWER:строка без ничего после нее, чтобы модель написала ответ следующим шагом.

Нумерация важна: именно она позволяет модели (и следующему уроку) цитировать какой источник использовался для утверждения. Точная строка экранирования тоже важна. Код ниже будет искать именно этот маркер для обнаружения отказа, поэтому перефраз ломает всё.

Обработайте случай отсутствующего контекста: если retrieved_chunks пуст, вы всё равно создаёте корректный промпт (инструкция, строка-выход, пустой контекст, вопрос и открытый ход для ответа), и тогда модель правильно ответит контрольной фразой. Живой вызов LLM в это упражнение не входит: вы строите строку, которую она получила бы. Нажмите Запустить, чтобы напечатать обоснованный промпт и прочитать его глазами модели.

Твоя очередь

Напишите assemble_prompt(query, retrieved_chunks), который возвращает полную строку grounded prompt: инструкцию отвечать только по контексту, точную строку If the answer is not in the context, reply exactly: I do not know., секцию CONTEXT: с каждым чанком под номеромм [1], [2], ... и заключенными в тройные кавычки по порядку, строку QUESTION: и финальный открытый поворот ANSWER:. Пустой список чанков все равно дает валидный prompt.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Это упражнение откроется скоро

Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.