المنهج الدراسي الدرس 113 من 250 · حدس الشبكات العصبية، والنماذج اللغوية الكبيرة، ومشروع التخرج في الذكاء الاصطناعي
حدس الشبكات العصبية، والنماذج اللغوية الكبيرة، ومشروع التخرج في الذكاء الاصطناعي

مشروع التخرج في الذكاء الاصطناعي: كودك يشغل نموذج لغة كبير LLM على الجهاز

هذا هو المشروع الختامي، وأنت المهندس. تم بناء المسار بأكمله حول فكرة واحدة: برنامج Python الخاص بك يدير النموذج. نموذج LLM هو مجرد مكون واحد تقوم باستدعائه -> كود البرمجة الخاص بك يقرر ما هي البيانات التي يراها، وكيف يتم تشكيل الطلب، وماذا يحدث عندما لا يكون هناك نموذج محمل. ستقوم ببناء ذلك الإدارة من ملف فارغ تقريبًا.

كل ميزة ذكاء اصطناعي حقيقية هي نفس الحلقة. يقوم الكود الخاص بك بالعمل الموثوق، ويقوم النموذج بصياغة الكلمات:

  • احسب الحقائق في pandas. الكود دقيق في الحسابات؛ أما النموذج فليس كذلك. لذا فإن عدد الصفوف، والإجمالي، والمتوسط، والفئة الأعلى تأتي من DataFrame، وليس من LLM أبدا. هذه هي الطريقة الوحيدة لتجنب الأرقام الوهمية.
  • صغ الطلب بنفسك. يحافظ قالب الأوامر القابل لإعادة الاستخدام على فصل تعليمات النظام (من يجب أن يكون النموذج) عن رسالة المستخدم (ما يجب عليه فعله)، ثم يجمعهما في سلسلة واحدة تنتهي بعلامة دورة ليعرف النموذج أين يبدأ الكتابة.
  • يجب دائما توفير مسار غير متصل بالإنترنت. يحتاج النموذج على الجهاز إلى WebGPU وهو غير محدد، لذا عليك أيضا كتابة مولد يعتمد على القواعد يحول الحقائق نفسها إلى جملة. تعمل الميزة حتى بدون وجود أي نموذج على الإطلاق.

ما ستبنيه

دالتان، من الصفر. build_prompt(system, user) تعيد سلسلة نصية واحدة نظيفة تحتوي على كلا الجزئين وتنتهي بـ Assistant:. insight(df) تحسب الإحصائيات على جدول إنفاق مدمج وتعيد سطراً باللغة الإنجليزية يحدد أكبر فئة وإجماليها. تقوم دالة مساعدة صغيرة spend_stats(df) بعمل pandas لكي يقرأ كل من التقرير والرؤية من نفس الأرقام.

خطوة الذكاء الاصطناعي (جربها في التطبيق)

يعمل

Floati على نموذجه client-side باستخدام WebLLM على WebGPU -> لا حساب، لا مفتاح، لا سحابة، ولا تخرج أوامرك من الجهاز أبدا. يقوم التطبيق بربط محرك مشترك واحد على window._floatiTutor. بمجرد بنائك لـ build_prompt، يكون هذا هو الاستدعاء الحقيقي (إنه يعيش خارج المصحح لأنه يحتاج إلى GPU وغير محدد):

// Floati already created window._floatiTutor (a WebLLM engine).
const prompt = build_prompt("You explain budgets in one warm sentence.", report);
const reply = await window._floatiTutor.chat.completions.create({
  messages: [{ role: "user", content: prompt }],
  temperature: 0.5, max_tokens: 120,
});
console.log(reply.choices[0].message.content);

لاحظ أن النموذج يرى فقط سلسلة report التي أنتجتها بلغة Python -> الأرقام صحيحة بالفعل قبل أن يتحدث النموذج. اضغط على Run لرؤية خط الإنتاج غير المتصل يطبع إحصائياته ورؤيته القائمة على القواعد؛ هذا التقرير المطبوع هو بالضبط ما ستقدمه للنموذج أعلاه. يقوم المصحح بفحص شكل prompt الخاص بك و insight الحتمي، ولا يفحص أي مخرجات من النموذج أبدا.

دورك

قم ببناء عملية التنسيق. تم تضمين DataFrame الإنفاق df لك (10 صفوف، وأعمدة category و amount). اكتب ثلاثة أشياء: (1) spend_stats(df) -> قاموس يحتوي على مفاتيح rows، total، average، top_category، top_amount (إجمالي/متوسطات مقربة إلى منزلتين عشريتين، والفئة الأعلى حسب المبلغ الإجمالي)؛ (2) build_prompt(system, user) -> سلسلة نصية واحدة تحتوي على system و user و ends على Assistant: حتى يستمر النموذج من هناك؛ (3) insight(df) -> سلسلة نصية بالإنجليزية البسيطة غير فارغة (خيار احتياطي يعتمد على القواعد) تسمي الفئة الأعلى وتظهر TOTAL: <amount> بمبلغ مالي من منزلتين عشريتين. ثم قم بتعيين report = insight(df) و print(report).

هل لاحظت مشكلة في هذا الدرس؟ أبلغ عنها · اسأل عن هذا الدرس

سيفتح هذا التمرين قريبا

أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.