पाठ्यक्रम 250 में से पाठ 123 · AI engineers के लिए prompt engineering
AI engineers के लिए prompt engineering

Roles और system prompts

एक आधुनिक chat मॉडल टेक्स्ट का एक गट्ठर नहीं देखता। वह संदेशों की एक सूची देखता है, हर एक पर एक role का निशान। मायने रखने वाले roles: system सबसे ऊपर एक बार नियम और किरदार तय करता है, user वह है जो किसी इंसान ने टाइप किया, और assistant वह है जो मॉडल ने जवाब दिया। इन्हें सही रखना ही अच्छा बर्ताव करने वाले मॉडल और भटकने वाले मॉडल का अंतर है।

chat API को एक असली कॉल ऐसी दिखती है (आकार ठोस करने के लिए दिखाई गई, इस अभ्यास में आप कोई API नहीं बुलाएँगे):

messages = [
    {"role": "system", "content": "You are a terse support bot."},
    {"role": "user", "content": "my order is late"},
]
# Some chat APIs take this list as it is. The Anthropic API takes the system
# text in its own argument instead (Module "Calling a Real LLM" builds this):
# response = client.messages.create(model=..., system=messages[0]["content"],
#                                   messages=messages[1:])

अगर आपका ट्यूटर चालू है, तो एक on-device मॉडल आपके लिए इसका जवाब भी दे सकता है। पर आपको इनमें से किसी पर ग्रेड नहीं किया जाता। आपको उस हिस्से पर ग्रेड किया जाता है जिसे आप सचमुच engineer करते हैं: संदेश सूची को सही जोड़ना और टूटी सूची जोड़ने से मना करना।

chat_prompt(system, turns) बनाएँ जो एक प्रतिलिपि को एक अकेली स्ट्रिंग के रूप में दिखाए:

  • पहली पंक्ति system prompt है: [system] <system text>।
  • फिर turns ((role, content) tuples की सूची) की हर बारी क्रम से [role] content के रूप में दिखती है।
  • आख़िर में एक खुली [assistant] पंक्ति, मॉडल के अगले बोलने का संकेत।
  • अगर किसी बारी का role user या assistant के अलावा हो, तो ValueError उठाएँ। system role पहले आर्ग्युमेंट से एक बार तय होता है, कभी बारी के रूप में नहीं।

इसलिए chat_prompt("Be brief.", [("user", "hi")]) देता है:

[system] Be brief.
[user] hi
[assistant]

वह role जाँच बेकार की मेहनत नहीं है। किसी कॉल करने वाले को बातचीत के बीच नक़ली system बारी घुसाने देना prompts के हाईजैक होने का एक असली तरीका है। इनपुट जाँचें और ज़ोर से विफल हों। ग्रेड करने के लिए Run दबाएँ।

आपकी बारी

chat_prompt(system, turns) लिखें जो एक प्रतिलिपि स्ट्रिंग लौटाए। पंक्ति 1 है [system] <system>। turns का हर (role, content) क्रम से [role] content के रूप में दिखता है। आख़िर में एक खुली [assistant] पंक्ति। अगर किसी बारी का role user या assistant नहीं है तो ValueError उठाएँ। बिना बारियों के आउटपुट ठीक "[system] <system>\n[assistant]" है।

इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें

यह अभ्यास जल्द खुलेगा

इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।