역할과 시스템 프롬프트
현대 채팅 모델은 글 덩어리 하나를 보지 않아요. 각각 역할이 붙은 메시지의 리스트를 봐요. 중요한 역할들: system은 맨 위에서 한 번 규칙과 인격을 정하고, user는 사람이 입력한 것이고, assistant는 모델이 답한 거예요. 이것을 제대로 하는 게 말을 잘 듣는 모델과 헤매는 모델의 차이예요.
채팅 API에 대한 진짜 호출은 이렇게 생겼어요(모양을 구체적으로 보여 주려고만 보여 줘요. 이 연습에서 어떤 API도 부르지 않아요):
messages = [
{"role": "system", "content": "You are a terse support bot."},
{"role": "user", "content": "my order is late"},
]
# Some chat APIs take this list as it is. The Anthropic API takes the system
# text in its own argument instead (Module "Calling a Real LLM" builds this):
# response = client.messages.create(model=..., system=messages[0]["content"],
# messages=messages[1:])튜터가 켜져 있으면 기기 내 모델이 답해 줄 수도 있어요. 하지만 그중 어느 것도 채점 대상이 아니에요. 채점되는 건 내가 실제로 설계하는 부분이에요: 메시지 리스트를 올바르게 조립하고, 망가진 것은 조립하기를 거부하기.
대화 기록을 문자열 하나로 그리는 chat_prompt(system, turns)를 만드세요:
- 첫 줄은 시스템 프롬프트예요:
[system] <system text>. - 그다음
turns((role, content)튜플의 리스트)의 모든 차례가 순서대로[role] content로 그려져요. - 모델이 다음에 말할 신호인 열린
[assistant]줄로 끝나요. - 어떤 차례든 역할이
user나assistant가 아니면ValueError를 일으키세요. system 역할은 첫 인자로 한 번 정하고, 결코 차례로 오지 않아요.
그래서 chat_prompt("Be brief.", [("user", "hi")])는 이것을 줘요:
[system] Be brief.
[user] hi
[assistant]그 역할 확인은 쓸데없는 일이 아니에요. 호출하는 쪽이 대화 중간에 가짜 system 차례를 몰래 넣게 두는 건 프롬프트가 탈취되는 진짜 방법이에요. 입력을 검증하고 시끄럽게 실패하세요. 채점하려면 실행을 누르세요.
대화 기록 문자열을 돌려주는 chat_prompt(system, turns)를 쓰세요. 1번째 줄은 [system] <system>이에요. turns의 각 (role, content)는 순서대로 [role] content로 그려져요. 열린 [assistant] 줄로 끝나요. 어떤 차례든 역할이 user나 assistant가 아니면 ValueError를 일으키세요. 차례가 없으면 출력은 정확히 "[system] <system>\n[assistant]"예요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.