سرفصل‌ها درس 123 از 250 · مهندسی سریع برای مهندسان هوش مصنوعی
مهندسی سریع برای مهندسان هوش مصنوعی

نقش‌ها و دستورالعمل‌های سیستم

یک مدل چت مدرن یک تودهٔ متنی را نمی‌بیند. آن می‌بیند یک فهرست پیام‌ها، هر کدام با یک برچسب‌خورده نقشنقش‌های مهم: system قوانین و شخصیت را یک‌بار در بالاترین سطح تعیین می‌کند، user آن چیزی است که یک شخص تایپ کرده است، و assistant این همان چیزی است که مدل در پاسخ گفت. درست گرفتن این موارد تفاوت بین مدلی است که رفتار می‌کند و مدلی که سرگردان است.

یک فراخوانی واقعی به یک API چت به این شکل است (فقط برای ملموس کردن شکل نشان داده شده است، شما در این تمرین هیچ API‌ای را فراخوانی نخواهید کرد):

messages = [
    {"role": "system", "content": "You are a terse support bot."},
    {"role": "user", "content": "my order is late"},
]
# Some chat APIs take this list as it is. The Anthropic API takes the system
# text in its own argument instead (Module "Calling a Real LLM" builds this):
# response = client.messages.create(model=..., system=messages[0]["content"],
#                                   messages=messages[1:])

اگر مربی شما فعال باشد، یک مدل روی دستگاه حتی می‌تواند به آن پاسخ دهد. اما هیچ‌یک از این موارد مبنای نمره‌دهی شما نیست. شما بر اساس بخشی که خودتان واقعاً مهندسی می‌کنید نمره می‌گیرید: فهرست پیام‌ها را به‌درستی مونتاژ کرده و از مونتاژ یک فهرست معیوب خودداری می‌کند.

ساخت chat_prompt(system, turns) که یک رونوشت را به صورت یک رشتهٔ واحد بازمی‌گرداند:

  • خط اول، دستور سیستمی است: [system] <system text>.
  • سپس هر پیچ به داخل turns (فهرستی از (role, content) تُپل‌ها به ترتیب نمایش داده می‌شوند: [role] content.
  • با یک باز شدن دنباله‌دار پایان دهید [assistant] نوبت، علامت برای اینکه مدل بعدی صحبت کند.
  • اگر هر دور نقشی غیر از user یا assistant, بالا بردن ValueErrorنقش سیستم یک‌بار از طریق آرگومان اول تعیین می‌شود، هرگز به‌عنوان یک نوبت.

پس chat_prompt("Be brief.", [("user", "hi")]) می‌دهد:

[system] Be brief.
[user] hi
[assistant]

آن بررسی نقش کار بیهوده نیست. اجازه دادن به تماس‌گیرنده برای قاچاق یک جعلی system تغییر ناگهانی در اواسط گفتگو راه واقعی هک شدن دستورها است. ورودی را اعتبارسنجی کنید و با صدای بلند خطا بدهید. فشار دهید دویدن برای نمره‌دهی

نوبت شما

نوشتن chat_prompt(system, turns) که یک رشتهٔ متن گفتاری را بازمی‌گرداند. خط ۱ است [system] <system>. هر (role, content) در turns به ترتیب به صورت [role] content. با یک باز شدن انتهایی پایان دهید [assistant] خط. بالا بردن ValueError اگر هر نقش چرخشی نباشد user یا assistant. در صورت عدم وجود هیچ چرخش، خروجی دقیقاً "[system] <system>\n[assistant]".

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.