Роли и системные промпты
Современная чат модель не видит один блок текста. Она видит список сообщений, каждое из которых помечено ролью. Роли, которые важны: system устанавливает правила и личность один раз в начале, user это то, что напечатал человек, и assistant это то, что ответила модель. Правильное понимание этих ролей это разница между моделью, которая ведет себя адекватно, и той, которая блуждает.
A реальный вызов к chat API выглядит так (показано только для наглядности, в этом упражнении вы НЕ будете вызывать никакой API):
messages = [
{"role": "system", "content": "You are a terse support bot."},
{"role": "user", "content": "my order is late"},
]
# Some chat APIs take this list as it is. The Anthropic API takes the system
# text in its own argument instead (Module "Calling a Real LLM" builds this):
# response = client.messages.create(model=..., system=messages[0]["content"],
# messages=messages[1:])Если ваш tutor включен, on-device модель может даже ответить за вас. Но за это вам не ставят оценки. Вам ставят оценки за ту часть, которую вы реально проектируете: правильная сборка message list и отказ собирать сломанный.
Создайте chat_prompt(system, turns), который выводит транскрипт как одну строку:
- Первая строка это системный промпт:
[system] <system text>. - Затем каждый ход в
turns(список кортежей(role, content)) отображается по порядку как[role] content. - Закончите с висящей открытой строкой
[assistant], это сигнал для модели говорить дальше. - Если любой ход имеет роль, отличную от
userилиassistant, вызовитеValueError. Системная роль устанавливается один раз через первый аргумент, никогда как ход.
Итак chat_prompt("Be brief.", [("user", "hi")]) дает:
[system] Be brief.
[user] hi
[assistant]Эта проверка роли не является пустой работой. Позволить вызывающей стороне незаметно внедрить фейковый system в середине разговора это реальный способ перехвата промптов. Проверяйте входные данные и выдавайте ошибку явно. Нажмите Run чтобы оценить.
Напишите chat_prompt(system, turns), который возвращает строку transcript. Строка 1 это [system] <system>. Каждый (role, content) в turns отображается по порядку как [role] content. Завершите открытой строкой [assistant]. Вызовите ValueError, если любая turn role не user или assistant. Без turns вывод это точно "[system] <system>\n[assistant]".
Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке
Это упражнение откроется скоро
Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.
Этот браузер блокирует cookies для learn.floati.life, поэтому завершенные здесь уроки не могут открыться по порядку. Разрешите cookies для этого сайта и перезагрузите страницу.