المنهج الدراسي الدرس 97 من 148 · احكم على المخرجات
احكم على المخرجات

اقرأ المخرجات، وليس النبرة

لماذا هذا مهم إجابة المساعد هي حزمة من الادعاءات: هذه الحزم موجودة، هذا diff يصلح الخطأ فقط، هذا الكود يعالج الحالة الحدية، هذه الأوامر آمنة. يمكن التحقق من كل ادعاء، ومعظم عمليات التحقق رخيصة.

أثبتت الوحدات السابقة خطأ النصيحة باختبار فاشل. تذهب هذه الوحدة خطوة أبعد: فهي تتحقق من أجزاء الإجابة التي يتجاهلها الناس لأنها تبدو كأعمال سباكة.

  • Names: الحزم، والوظائف، والأعلام. في دراسة كبيرة لنماذج توليد الكود، كان متوسط ما لا يقل عن 5.2% من الحزم التي أوصت بها النماذج التجارية، و21.7% من تلك النماذج المفتوحة، غير موجودة، مع وجود أكثر من 200,000 اسم مبتكر متميز (Spracklen et al., USENIX Security 2025). يمكن للمهاجم تسجيل اسم مبتكر والانتظار.
  • Scope: اختلاف يصلح الخطأ ويغير ثلاث وظائف أخرى بهدوء.
  • Choices: طلب غامض يجعل المساعد يقرر أشياء لم تذكرها أبدا، مثل حالة الأحرف، أو الترتيب، أو القيم الفارغة.
  • Agreement: طلب السؤال مرتين والحصول على نفس الإجابة مرتين لا يجعله صحيحا.
  • Actions: يمكن للوكيل الذي يشغل الأوامر أن يخرج عن المجلد الذي قصدته.

Slopsquatting: تسجيل حزمة تحت اسم تميل النماذج إلى اختراعه، بحيث يقوم الكود الذي يثبتها بتشغيل كود المهاجم.

Typosquatting: الحيلة القديمة المتمثلة في تسجيل اسم يختلف بحرف واحد عن حزمة مشهورة (requets)، وانتظار خطأ مطبعي، سواء من شخص أو من نموذج.

تمت كتابة مخرجات المساعد في هذه الوحدة للدورة بنفس الشكل الذي تنتجه المساعدات الحقيقية تماما. إنها ليست تسجيلا لأي نموذج معين.

ملخص تقسيم الإجابة إلى ادعاءات والتحقق من الادعاءات الرخيصة في كل مرة: الأسماء، النطاق، الخيارات، الاتفاق، الإجراءات.

هل لاحظت مشكلة في هذا الدرس؟ أبلغ عنها · اسأل عن هذا الدرس

سيفتح هذا التمرين قريبا

أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.