Vai trò và system prompt
Một mô hình trò chuyện hiện đại không nhìn thấy một khối văn bản duy nhất. Nó thấy một list thông điệp, mỗi cái được gắn một vai trò. Các vai trò quan trọng: system đặt quy tắc và vai diễn một lần ở trên cùng, user là thứ một người đã gõ, và assistant là thứ mô hình đã trả lời. Làm đúng những thứ này là khác biệt giữa một mô hình cư xử đúng mực và một mô hình đi lạc.
Một lệnh gọi thật tới một API trò chuyện trông như thế này (chỉ để hình dạng trở nên cụ thể, bạn sẽ KHÔNG gọi API nào trong bài tập này):
messages = [
{"role": "system", "content": "You are a terse support bot."},
{"role": "user", "content": "my order is late"},
]
# Some chat APIs take this list as it is. The Anthropic API takes the system
# text in its own argument instead (Module "Calling a Real LLM" builds this):
# response = client.messages.create(model=..., system=messages[0]["content"],
# messages=messages[1:])Nếu gia sư của bạn đang bật, một mô hình trên thiết bị thậm chí có thể trả lời nó cho bạn. Nhưng không cái nào trong đó là thứ bạn được chấm. Bạn được chấm ở phần bạn thật sự thiết kế: ráp list thông điệp cho đúng và từ chối ráp một list hỏng.
Xây chat_prompt(system, turns) kết xuất một bản ghi hội thoại thành một chuỗi duy nhất:
- Dòng đầu tiên là system prompt:
[system] <system text>. - Rồi mọi lượt trong
turns(một list các tuple(role, content)) được kết xuất theo thứ tự thành[role] content. - Kết thúc bằng một dòng
[assistant]mở ở cuối, tín hiệu để mô hình nói tiếp. - Nếu bất kỳ lượt nào có vai trò khác
userhoặcassistant, báoValueError. Vai trò system được đặt một lần qua đối số đầu tiên, không bao giờ là một lượt.
Vậy chat_prompt("Be brief.", [("user", "hi")]) cho ra:
[system] Be brief.
[user] hi
[assistant]Phép kiểm tra vai trò đó không phải việc vặt. Để một nơi gọi lén đưa một lượt system giả vào giữa cuộc trò chuyện là một cách thật mà prompt bị chiếm quyền. Hãy kiểm tra đầu vào và thất bại rõ ràng. Nhấn Chạy để chấm điểm.
Viết chat_prompt(system, turns) trả về một chuỗi bản ghi hội thoại. Dòng 1 là [system] <system>. Mỗi (role, content) trong turns được kết xuất theo thứ tự thành [role] content. Kết thúc bằng một dòng [assistant] mở ở cuối. Báo ValueError nếu vai trò của bất kỳ lượt nào không phải user hoặc assistant. Khi không có lượt nào, đầu ra chính xác là "[system] <system>\n[assistant]".
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.