Roles और system prompts
एक आधुनिक chat मॉडल टेक्स्ट का एक गट्ठर नहीं देखता। वह संदेशों की एक सूची देखता है, हर एक पर एक role का निशान। मायने रखने वाले roles: system सबसे ऊपर एक बार नियम और किरदार तय करता है, user वह है जो किसी इंसान ने टाइप किया, और assistant वह है जो मॉडल ने जवाब दिया। इन्हें सही रखना ही अच्छा बर्ताव करने वाले मॉडल और भटकने वाले मॉडल का अंतर है।
chat API को एक असली कॉल ऐसी दिखती है (आकार ठोस करने के लिए दिखाई गई, इस अभ्यास में आप कोई API नहीं बुलाएँगे):
messages = [
{"role": "system", "content": "You are a terse support bot."},
{"role": "user", "content": "my order is late"},
]
# Some chat APIs take this list as it is. The Anthropic API takes the system
# text in its own argument instead (Module "Calling a Real LLM" builds this):
# response = client.messages.create(model=..., system=messages[0]["content"],
# messages=messages[1:])अगर आपका ट्यूटर चालू है, तो एक on-device मॉडल आपके लिए इसका जवाब भी दे सकता है। पर आपको इनमें से किसी पर ग्रेड नहीं किया जाता। आपको उस हिस्से पर ग्रेड किया जाता है जिसे आप सचमुच engineer करते हैं: संदेश सूची को सही जोड़ना और टूटी सूची जोड़ने से मना करना।
chat_prompt(system, turns) बनाएँ जो एक प्रतिलिपि को एक अकेली स्ट्रिंग के रूप में दिखाए:
- पहली पंक्ति system prompt है:
[system] <system text>। - फिर
turns((role, content)tuples की सूची) की हर बारी क्रम से[role] contentके रूप में दिखती है। - आख़िर में एक खुली
[assistant]पंक्ति, मॉडल के अगले बोलने का संकेत। - अगर किसी बारी का role
userयाassistantके अलावा हो, तोValueErrorउठाएँ। system role पहले आर्ग्युमेंट से एक बार तय होता है, कभी बारी के रूप में नहीं।
इसलिए chat_prompt("Be brief.", [("user", "hi")]) देता है:
[system] Be brief.
[user] hi
[assistant]वह role जाँच बेकार की मेहनत नहीं है। किसी कॉल करने वाले को बातचीत के बीच नक़ली system बारी घुसाने देना prompts के हाईजैक होने का एक असली तरीका है। इनपुट जाँचें और ज़ोर से विफल हों। ग्रेड करने के लिए Run दबाएँ।
chat_prompt(system, turns) लिखें जो एक प्रतिलिपि स्ट्रिंग लौटाए। पंक्ति 1 है [system] <system>। turns का हर (role, content) क्रम से [role] content के रूप में दिखता है। आख़िर में एक खुली [assistant] पंक्ति। अगर किसी बारी का role user या assistant नहीं है तो ValueError उठाएँ। बिना बारियों के आउटपुट ठीक "[system] <system>\n[assistant]" है।
इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें
यह अभ्यास जल्द खुलेगा
इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।
यह ब्राउज़र learn.floati.life के लिए कुकी रोक रहा है, इसलिए यहाँ पूरे किए गए पाठ क्रम से नहीं खुल सकते। इस साइट के लिए कुकी की अनुमति दें और फिर से लोड करें।