角色与系统提示词
现代的聊天模型看到的不是一整团文本。它看到的是一个消息列表,每条都带有一个角色标签。重要的角色有:system 在最上面一次性设定规则和人设,user 是人输入的内容,assistant 是模型回复的内容。把这些弄对,就是一个守规矩的模型和一个四处乱跑的模型之间的区别。
对聊天 API 的一次真实调用看起来是这样的(只是为了让形状具体可见,在这个练习里你不会调用任何 API):
messages = [
{"role": "system", "content": "You are a terse support bot."},
{"role": "user", "content": "my order is late"},
]
# Some chat APIs take this list as it is. The Anthropic API takes the system
# text in its own argument instead (Module "Calling a Real LLM" builds this):
# response = client.messages.create(model=..., system=messages[0]["content"],
# messages=messages[1:])如果你的导师开着,一个设备端的模型甚至可以替你回答它。但那些都不是你被评分的内容。你被评分的是你实际设计的那部分:正确地组装消息列表,并拒绝组装一个坏掉的列表。
构建 chat_prompt(system, turns),把一段对话记录渲染成单个字符串:
- 第一行是系统提示词:
[system] <system text>。 - 然后
turns(一个由(role, content)元组组成的列表)中的每一轮按顺序渲染为[role] content。 - 以末尾一行开放的
[assistant]结束,这是提示模型接下来说话的信号。 - 如果任何一轮的角色不是
user或assistant,就抛出ValueError。system 角色通过第一个参数设定一次,永远不作为一轮出现。
所以 chat_prompt("Be brief.", [("user", "hi")]) 得到:
[system] Be brief.
[user] hi
[assistant]那个角色检查不是走过场。允许调用者在对话中途偷偷塞进一个假的 system 轮次,是提示词被劫持的一种真实方式。验证输入,并大声失败。按 Run 评分。
写 chat_prompt(system, turns),返回一个对话记录字符串。第 1 行是 [system] <system>。turns 里的每个 (role, content) 按顺序渲染为 [role] content。以末尾一行开放的 [assistant] 结束。如果任何一轮的角色不是 user 或 assistant,就抛出 ValueError。没有任何轮次时,输出恰好是 "[system] <system>\n[assistant]"。
这个练习即将开放
完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。
这个浏览器屏蔽了 learn.floati.life 的 Cookie,所以你在这里完成的课程无法按顺序打开。请允许这个网站使用 Cookie,然后重新加载。