سرفصل‌ها درس 134 از 250 · مهندسی سریع برای مهندسان هوش مصنوعی
مهندسی سریع برای مهندسان هوش مصنوعی

کاپ‌استون: یک خط لوله تولید (اولویت‌بندی بلیط)

این قسمت پایانی است: شما کل ماژول را در یک خط لولهٔ پرس‌وجوی تولید برای اولویت‌بندی بلیط‌های پشتیبانی سیمی می‌کنید. یک تیکت خام وارد می‌شود؛ باید در برابر تزریق دفاع کنید، به بودجه توکن احترام بگذارید، یک پرس‌وجوی چندشاتی بسازید و سپس هر JSON که مدل بازمی‌گرداند را اعتبارسنجی کنید. مدل تیکت را طبقه‌بندی می‌کند (آن یک مرحله مربوط به LLM است و تنها بخش بدون نمره است). همه چیز اطراف آن مهندسی شماست.

مجموعه‌ساز پرامپت را بسازید. build_triage_prompt(ticket, budget=200):

  • بلیط را از طریق تشخیص تزریق اجرا می‌کند. اگر مشکوک باشد، متن بدنه بلیط به [blocked input] و بار مفید خام هرگز وارد پرس‌وجو نمی‌شود.
  • در غیر این صورت، تیکت را به ... کوتاه می‌کند. budget حرف (ممکن است بلیط‌ها بسیار بزرگ باشند؛ شما به ازای هر توکن هزینه می‌پردازید).
  • یک [system] دستور، سپس دو مثال با تعداد اندک مثال Ticket: ... / JSON: ... دو مثال چندشاتی، سپس بلیت واقعی محصور، که با یک پایان‌دهنده انتهایی خاتمه می‌یابد. [assistant] خط.

اعتبارسنج خروجی را بسازید. parse_triage(model_json) json.loads پاسخ مدل داخل یک try/except و دو مقدار enumeration را بررسی می‌کند: category در {billing, technical, account, general} و urgency در {low, medium, high}. بازگشت {"ok": bool, "errors": [...]}.

parse_triage('{"category": "billing", "urgency": "high"}')   # ok True
parse_triage('{"category": "weather", "urgency": "high"}')   # ok False
parse_triage('not json at all')                              # ok False, no crash

اگر مربی شما فعال باشد، یک مدل روی دستگاه می‌تواند JSON را تولید کند که parse_triage سپس اعتبارسنجی می‌کند و حلقه را به‌صورت زنده می‌بندد. اما نمره‌دهی تنها بخش‌های تعیین‌شده را در بر می‌گیرد: پرسش ساختار درستی دارد، تزریق‌ها را مسدود می‌کند، بلیت‌های بزرگ را کوتاه می‌کند و اعتبارسنج خروجی‌های درست را می‌پذیرد و خروجی‌های نادرست را رد می‌کند. استفاده مجدد is_suspicious و wrap_user_input از درس تزریق، که در بستهٔ استارتر گنجانده شده است. برای نمره‌دهی روی Run کلیک کنید.

نوبت شما

نوشتن build_triage_prompt(ticket, budget=200): تشخیص تزریق (مظنون -> متن بلیت به [blocked input]، بار مفید غایب)، در غیر این صورت به budget حرف؛ مونتاژ یک [system] خط، دو چند-شات Ticket:/JSON: نمونه‌ها، تیکت واقعی محصور، و یک دنباله [assistant]. بلیت واقعی در یک خط مجزا شروع می‌شود Ticket: ، مانند مثال‌ها، با بدنهٔ محصور شده توسط wrap_user_input (از درس تزریق). بنویسید parse_triage(model_json) که json.loads در یک try/except و validates category در {بیلینگ،تکنیکی،حساب،عمومی} و urgency در {low,medium,high}، بازگردانده {"ok", "errors"}.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.