سرفصل‌ها درس 113 از 250 · شهود شبکه عصبی، LLMها و پروژه پایانی هوش مصنوعی
شهود شبکه عصبی، LLMها و پروژه پایانی هوش مصنوعی

پروژه پایانی هوش مصنوعی: کد شما یک مدل زبانی بزرگ (LLM) را روی دستگاه اجرا می‌کند.

این پروژهٔ پایانی است و شما معمار آن هستید. کل مسیر به یک ایده ختم شده است: پایتون شما مدل را هماهنگ می‌کند. LLM فقط یکی از مؤلفه‌هایی است که شما فرا می‌خوانید -> کد شما تصمیم می‌گیرد چه داده‌هایی را می‌بیند، درخواست چگونه شکل می‌گیرد و وقتی هیچ مدلی بارگذاری نشده باشد چه اتفاقی می‌افتد. شما آن ارکستراسیون را از یک فایل تقریباً خالی خواهید ساخت.

هر ویژگی واقعی هوش مصنوعی همین حلقه را دارد. کد شما کار قابل اعتماد را انجام می‌دهد، مدل به نگارش متن می‌پردازد:

  • داده‌ها را در پانداس محاسبه کنید. کد در محاسبات عددی دقیق است؛ مدل چنین نیست. بنابراین، تعداد ردیف‌ها، مجموع، میانگین و برترین دسته‌بندی از یک DataFrame استخراج می‌شوند، نه هرگز از LLM. این تنها راه برای جلوگیری از اعداد خیالی است.
  • خودتان درخواست را شکل دهید. یک قالب پرامپت قابل استفاده مجدد، دستورالعمل سیستم (که مدل باید چه کسی باشد) را از پیام کاربر (که باید چه کاری انجام دهد) جدا نگه می‌دارد، و سپس آن‌ها را در یک رشته متنی واحد ترکیب می‌کند که با یک نشانگر نوبت به پایان می‌رسد تا مدل بداند کجا باید نوشتن را شروع کند.
  • همیشه یک مسیر آفلاین داشته باشید. مدل روی دستگاه به WebGPU نیاز دارد و غیرقطعی است، بنابراین شما همچنین یک تولیدکننده مبتنی بر قاعده می‌نویسید که همان حقایق را به یک جمله تبدیل می‌کند. این ویژگی حتی بدون هیچ مدلی نیز کار می‌کند.

آنچه خواهید ساخت

دو تابع، از صفر. build_prompt(system, user) یک رشتهٔ تمیز را بازمی‌گرداند که هر دو بخش را در خود دارد و در علامت پایان نوبت به پایان می‌رسد. Assistant:. insight(df) آمار را روی یک جدول مخارج تعبیه‌شده محاسبه می‌کند و یک خط به زبان ساده انگلیسی بازمی‌گرداند که بزرگ‌ترین دسته‌بندی و مجموع را نام می‌برد. یک کوچک spend_stats(df) تابع کمکی pandas کار را انجام می‌دهد تا هم گزارش و هم بینش از روی اعداد یکسان خوانده شوند.

مرحله هوش مصنوعی (آن را در اپلیکیشن امتحان کنید)

Floati مدل خود را به‌صورت کلاینت‌ساید با WebLLM روی WebGPU اجرا می‌کند -> بدون حساب کاربری، بدون کلید، بدون ابر، پرس‌وجوهای شما هرگز از دستگاه خارج نمی‌شوند. این اپ یک موتور مشترک واحد را به window._floatiTutor. هنگامی که ساختید build_prompt، این فراخوانی واقعی است (این فراخوانی خارج از grader قرار دارد زیرا به GPU نیاز دارد و غیرقطعی است):

// Floati already created window._floatiTutor (a WebLLM engine).
const prompt = build_prompt("You explain budgets in one warm sentence.", report);
const reply = await window._floatiTutor.chat.completions.create({
  messages: [{ role: "user", content: prompt }],
  temperature: 0.5, max_tokens: 120,
});
console.log(reply.choices[0].message.content);

توجه کنید که مدل فقط report خروجی پایتون شما را به صورت رشته دریافت می‌کند -> اعداد قبل از اینکه مدل صحبت کند، از قبل صحیح هستند. دکمه Run را فشار دهید تا ببینید خط لوله آفلاین شما آمار و بینش مبتنی بر قاعده خود را چاپ می‌کند؛ آن گزارش چاپی دقیقاً همان چیزی است که باید به مدل بالا بدهید. grader شکل prompt شما و deterministic شما را بررسی می‌کند insight، هرگز هیچ خروجی مدل را بررسی نمی‌کند.

نوبت شما

ارکستراسیون را بسازید. DataFrame هزینه‌ها df برای شما تعبیه شده است (۱۰ سطر، ستون category و amount). سه چیز بنویسید: (۱) spend_stats(df) -> یک dict با کلیدها rows, total, average, top_category, top_amount (مجموع‌ها/میانگین‌ها تا دو اعشار گرد شده، بالاترین دسته‌بندی بر اساس مجموع مبلغ)؛ (۲) build_prompt(system, user) -> یک رشته که هر دو را در بر دارد system و user و در تاریخ Assistant: تا مدل از آنجا ادامه یابد؛ (۳) insight(df) -> یک رشتهٔ انگلیسی ساده و غیرخالی (پیش‌فرض مبتنی بر قاعده) که نام دسته‌بندی برتر را نام می‌برد و یک TOTAL: <amount> با ۲ اعشاره پول. سپس تنظیم کنید report = insight(df) و print(report).

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.