سرفصل‌ها درس 214 از 250 · پروژه: دستیار مشتری
پروژه: دستیار مشتری

بازیابی و ساخت پرسش زمینه‌دار

بازیافت کار می‌کند -- می‌توانید مقالات مناسب را پیدا کنید. حالا نوبت حرکتی است که RAG را به‌جای یک دروغگوی مطمئن، قابل‌اعتماد می‌سازد: زمینه‌سازی. شما متن بازیابی‌شده را به مدل زبانی می‌دهید و به آن دستور می‌دهید که فقط از روی آن متن پاسخ دهد و وقتی پاسخی در آن یافت نمی‌شود، این موضوع را اعلام کند. مدل هرگز اسناد خام شما را نمی‌بیند؛ بلکه پرسشی را که شما می‌سازید می‌بیند. بنابراین پرسش محصول است. این درس آن پرسش را می‌سازد.

اینجاست که هذیان‌ها (پاسخ‌های اشتباه) برد یا باخت می‌شوند. یک ربات پشتیبانی که یک بازه زمانی برای بازپرداخت را از خود اختراع می‌کند، بدتر از بی‌فایده است -- یک مسئولیت حقوقی است. راه حل، یک دستورالعمل (prompt) منظم با سه بخش است: بخش‌های استخراج‌شده که محصور و شماره‌گذاری شده‌اند تا مدل بتواند به آن‌ها ارجاع دهد، سؤال کاربر، و یک راه خروج صریح برای زمانی که زمینه حاوی پاسخ نیست.

یک تابع بنویسید:

assemble_prompt(query, retrieved_chunks)  # -> the full prompt string

باید به ترتیب زیر باشد:

  • قاعده‌ای را بیان کنید که دستیار تنها با استفاده از متن زیر پاسخ دهد.
  • این خط را دقیقاً، کاراکتر به کاراکتر، وارد کنید: If the answer is not in the context, reply exactly: I do not know.
  • یک a باز کنید CONTEXT: بخش، سپس هر قطعه را شماره‌گذاری و با کروشه‌ها محصور کنید، مانند [1] سپس متن تکه بین سه نقل‌قول، و سپس [2] و غیره -- به ترتیبی که داده شده است.
  • سؤال کاربر را در یک QUESTION: خط.
  • در یک نوبت پاسخ باز پایان دهید -- یک نهایی ANSWER: خطی با هیچ چیز پس از آن، تا مدل پاسخ را در ادامه بنویسد.

شماره‌گذاری اهمیت دارد: این همان چیزی است که به مدل (و درس بعدی) اجازه می‌دهد منبعی را که یک ادعا از آن آمده است، ذکر کند. خط فرار دقیق نیز اهمیت دارد -- کد پایین‌دستی به دنبال آن نشانه‌ی مشخص می‌گردد تا امتناع را تشخیص دهد، بنابراین یک بازنویسی همه چیز را خراب می‌کند.

مورد عدم وجود زمینه را مدیریت کنید: اگر retrieved_chunks خالی است، شما همچنان یک پرامپت معتبر تولید می‌کنید (دستورالعمل، خط فرار، یک زمینه خالی، سؤال و نوبت پاسخ باز) -- مدل سپس با علامت مرزی به درستی پاسخ خواهد داد. فراخوانی زنده LLM بخشی از این تمرین نیست؛ شما در حال ساخت رشته‌ای هستید که او دریافت خواهد کرد. دکمه Run را فشار دهید تا یک پرامپت زمینه‌دار چاپ شود و آن را همان‌طور که مدل می‌خواند، بخوانید.

نوبت شما

نوشتن assemble_prompt(query, retrieved_chunks) که رشتهٔ کامل دستورالعمل زمینه‌دار را بازمی‌گرداند: دستوری برای پاسخ‌دادن تنها بر اساس زمینه، خط دقیق If the answer is not in the context, reply exactly: I do not know.، یک CONTEXT: بخشی که در آن هر بخش شماره‌گذاری شده است [1], [2]، ... و در کروشه‌های سه‌نقطه‌ای به ترتیب، یک QUESTION: خط، و یک باز شدن پایانی ANSWER: نوبت. یک فهرست خالی از تکه‌ها همچنان یک دستورالعمل معتبر تولید می‌کند.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.