المنهج الدراسي الدرس 133 من 250 · هندسة الأوامر لمهندسي الذكاء الاصطناعي
هندسة الأوامر لمهندسي الذكاء الاصطناعي

الفواصل، والترسيخ، ومكافحة الهلوسة

إن الطريقة الأكثر فعالية لوقف النموذج عن اختلاق المعلومات هي grounding: قدم له المادة المصدرية، وضعها داخل فواصل واضحة، وأمره بالإجابة only من تلك المادة، مع وضع مخرج صريح عندما لا تكون الإجابة موجودة. هذا هو جوهر كل نظام retrieval-augmented، وهو كله بناء prompt.

ابنِ grounded_prompt(question, context_chunks) الذي يجمع:

    قسم
  • A CONTEXT: مع ترقيم كل جزء ووضعه داخل حدود، مثل [1] ...، [2] ....
  • السؤال بعد السياق.
  • تعليمات دقيقة للإجابة فقط من السياق، تنتهي بعبارة الخروج: إذا لم تكن الإجابة في السياق، أجب بالضبط I don't know.
  • A أجب في نهاية السؤال حتى يعرف النموذج كيفية الاستجابة.

ثم قم ببناء الـ checker. check_grounded(answer, context_chunks) تعيد True عندما تكون الإجابة مستندة إلى السياق: إما أنها تطابق الـ I don't know. sentinel تماما، أو أن كل كلمة مهمة في الإجابة تظهر في السياق المدمج. وهي تعيد False عندما تحتوي الإجابة على كلمات مخترعة لم يذكرها السياق أبدا.

ctx = ["The capital of France is Paris."]
check_grounded("The capital is Paris.", ctx)            # True
check_grounded("I don't know.", ctx)                    # True (honest)
check_grounded("The capital is Berlin.", ctx)           # False (invented)

تجاهل كلمات التوقف الصغيرة (the, is, a, of...) عند فحص الكلمات الهامة، حتى لا يتم معاقبة الصياغة العادية، ولكن كلمة محتوى مثل Berlin لا تظهر أبدا في السياق تفشل في الفحص بشكل صحيح. اضغط Run للتصحيح.

كن صادقاً بشأن ما يلتقطه هذا: علامات الاحتواء invented (كلمات لم يذكرها السياق أبداً)، لكنه لا يستطيع التقاط ادعاء كاذب معاد تركيبه من كلمات سياقية حقيقية. جملة "Refunds take France business days" ستمر هنا رغم أنها غير منطقية، لأن كل كلمة موجودة في السياق. يتطلب التحقق الحقيقي من الأمانة نموذج LLM-judge أو نموذج NLI (entailment) يستنتج المعنى، وليس مجرد عضوية الكلمات.

دورك

اكتب grounded_prompt(question, context_chunks) الذي يرقم ويضع فواصل للقطع تحت CONTEXT:، ويضيف السؤال، ويطلب إجابة من السياق فقط مع مخرج الهروب الدقيق I don't know.، وينتهي بدور إجابة مفتوحة. التنسيق الدقيق، الأسطر متصلة بـ "\n": CONTEXT:، ثم سطر واحد لكل قطعة مكتوب كـ [1] chunk text، [2] ...، سطر فارغ، Question: ...، سطر التعليمات (يجب أن يحتوي على I don't know.)، وأخيراً دور الإجابة المفتوحة [assistant]. اكتب check_grounded(answer, context_chunks) الذي يعيد True عند وجود sentinel أو عندما تكون كل كلمة إجابة مهمة (ليست كلمة توقف) في السياق المتصل، وإلا False.

هل لاحظت مشكلة في هذا الدرس؟ أبلغ عنها · اسأل عن هذا الدرس

سيفتح هذا التمرين قريبا

أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.