المنهج الدراسي الدرس 186 من 250 · أنماط الإنتاج: Retries، وAsync، وStreaming، وMemory
أنماط الإنتاج: Retries، وAsync، وStreaming، وMemory

إعادة المحاولة مع تراجع أسي

أول شيء يعلمه العالم الحقيقي لتطبيق LLM هو أن الاستدعاءات fail. حد معدل الطلبات، أو انقطاع الاتصال، أو خطأ 503 من المزود، لا يعني أي منها أن كودك خاطئ، بل يعني أنه يجب عليك الانتظار لحظة والمحاولة مرة أخرى. النمط القياسي هو retry with exponential backoff: عند كل فشل تنتظر لفترة أطول قبل المحاولة التالية، لذا فإن العطل البسيط يتعافى بسرعة بينما لا يتم إجهاد الخدمة المتعثرة.

يتضاعف التأخير بين المحاولات في كل مرة. إذا كان التأخير الأساسي هو 0.5 ثانية، فإنك تنتظر 0.5، ثم 1.0، ثم 2.0، وهكذا -> المعادلة هي base_delay * 2 ** attempt حيث attempt هو رقم المحاولة الذي يبدأ من الصفر. بعد عدد ثابت من المحاولات، تتوقف وتسمح للخطأ بالانتشار، لأن إعادة المحاولة للأبد تخفي فقط انقطاعا حقيقيا.

for attempt in range(max_attempts):
    try:
        return call_the_model()
    except Exception:
        # last attempt? re-raise. otherwise wait base_delay * 2**attempt
        ...

في بيئة الإنتاج، يكون الانتظار عائقاً حقيقياً time.sleep(delay)، وحول محرك WebLLM على الجهاز ستقوم بتغليف نفس حلقة retry فوق engine.chat.completions.create(...). لكن النوم يجعل الاختبار بطيئاً وغير مستقر، لذا هنا لا تقوم بالنوم على الإطلاق: أنت record التأخيرات التي كنت ستنتظرها وتعيدها. هذا يحافظ على العملية بأكملها حتمية وقابلة للاختبار فوراً، بينما المنطق -> count attempts، compute backoff، give up at the limit -> هو بالضبط ما يتم إرساله.

تحسين واحد حقيقي يجب معرفته: مضاعفة التأخير وحدها تجعل كل عميل فشل في اللحظة نفسها يعيد المحاولة بالتزامن، حيث يستيقظ الجميع معاً ويضغطون على الخدمة مرة أخرى (ظاهرة "thundering herd"). يضيف كود الإنتاج jitter -> عشوائية بسيطة لتوزيع محاولات إعادة الاتصال، وغالباً ما يكون ذلك عبر النوم لمدة عشوائية تصل إلى التأخير المحسوب ("full jitter"، مثل time.sleep(random.uniform(0, delay))). نحن نحافظ على الدالة المصنفة حتمية ونسجل قيم base_delay * 2 ** attempt الدقيقة؛ jitter هو تحسين الإنتاج الذي ستضيفه فوقها، وليس جزءاً من التمرين.

ابنِ retry_call(fn, max_attempts, base_delay). استدعِ fn(). إذا أعاد النتيجة، أعد dict {"value": result, "attempts": how_many_calls, "delays": [...]}. إذا أثار خطأ، سجل تأخير backoff base_delay * 2 ** attempt (لا تستخدم sleep) وحاول مجدداً، حتى max_attempts من إجمالي الاستدعاءات. إذا أثار المحاولة الأخيرة خطأ، اترك ذلك exception ينتشر. يتم استدعاء callable لا يفشل أبداً مرة واحدة بالضبط مع قائمة تأخير فارغة. تنتمي قاعدتان من العملاء الحقيقيين هنا أيضاً. أعد المحاولة فقط للإخفاقات العابرة (حالات 408 و409 و429 و5xx من وحدة calling-llms)؛ الطلب غير الصحيح يفشل بنفس الطريقة في كل مرة. وعندما يرسل الخادم رأس retry-after، انتظر تلك المدة على الأقل بدلاً من backoff الخاص بك. يقوم SDK الرسمي بالفعل بكليهما، مرتين افتراضياً، لذا في الممارسة العملية تقوم عادة بتعديل max_retries بدلاً من كتابة هذه الحلقة بنفسك.

دورك

اكتب retry_call(fn, max_attempts, base_delay, retryable=None) الذي يستدعي fn() ويعيد المحاولة عند حدوث خطأ، ولكن فقط للأخطاء التي تستحق إعادة المحاولة: إذا تم إعطاء retryable (دالة من الاستثناء إلى True/False) وأعادت False، أعد إرسال الخطأ فوراً دون محاولة أخرى. مع retryable=None، كل استثناء يعتبر قابلاً لإعادة المحاولة. كما يقوم بتسجيل تأخير التراجع الأسي base_delay * 2 ** attempt قبل كل محاولة بدون النوم. أعد {"value", "attempts", "delays"} عند النجاح؛ أعد إرسال الخطأ بمجرد فشل جميع استدعاءات max_attempts. الدالة التي تفشل N-1 مرات ثم تنجح تعيد القيمة؛ التأخيرات المسجلة تساوي المرجع الأسي؛ الدالة التي لا تفشل أبداً يتم استدعاؤها مرة واحدة بالضبط.

هل لاحظت مشكلة في هذا الدرس؟ أبلغ عنها · اسأل عن هذا الدرس

سيفتح هذا التمرين قريبا

أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.