ロールとシステムプロンプト
今のチャットモデルは、ひとかたまりのテキストを見るわけではありません。見ているのはメッセージのリストで、各メッセージにはロールのタグが付いています。大切なロールは:system は一番上で一度だけルールと人格を決め、user は人が入力したもの、assistant はモデルが返したものです。これを正しく扱えるかどうかが、行儀よくふるまうモデルと迷走するモデルの違いです。
チャット API への本物の呼び出しはこんな形です(形を具体的にするために示すだけで、この演習では API を一切呼びません):
messages = [
{"role": "system", "content": "You are a terse support bot."},
{"role": "user", "content": "my order is late"},
]
# Some chat APIs take this list as it is. The Anthropic API takes the system
# text in its own argument instead (Module "Calling a Real LLM" builds this):
# response = client.messages.create(model=..., system=messages[0]["content"],
# messages=messages[1:])チューターがオンなら、デバイス上のモデルが代わりに答えることさえできます。でも、採点されるのはそのどれでもありません。採点されるのは、あなたが実際にエンジニアリングする部分です:メッセージのリストを正しく組み立て、壊れたものは組み立てを拒否することです。
やりとりの記録を 1 つの文字列として描き出す chat_prompt(system, turns) を作ってください:
- 最初の行はシステムプロンプトです:
[system] <system text>。 - 次に
turns((role, content)のタプルのリスト)のすべてのターンを、順番どおりに[role] contentとして描きます。 - 最後に、モデルが次に話すための合図となる、開いたままの
[assistant]の行で終えます。 userかassistant以外のロールを持つターンがあれば、ValueErrorを送出します。system のロールは最初の引数で一度だけ設定し、決してターンとしては設定しません。
つまり chat_prompt("Be brief.", [("user", "hi")]) はこうなります:
[system] Be brief.
[user] hi
[assistant]そのロールの確認は、無駄な作業ではありません。呼び出す側が会話の途中に偽の system ターンをこっそり紛れ込ませられるようにしておくのは、プロンプトが乗っ取られる本物の手口です。入力を検証し、大きな音を立てて失敗しましょう。実行を押して採点します。
やりとりの記録の文字列を返す chat_prompt(system, turns) を書いてください。1 行目は [system] <system> です。turns の各 (role, content) は、順番どおりに [role] content として描きます。最後は開いたままの [assistant] の行で終えます。ターンのロールが user か assistant でなければ ValueError を送出します。ターンがないときの出力はちょうど "[system] <system>\n[assistant]" です。
この演習はまもなく開きます
その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。
このブラウザは learn.floati.life の Cookie をブロックしているため、ここで修了したレッスンを順番どおりに開けません。このサイトの Cookie を許可して再読み込みしてください。