سرفصل‌ها درس 88 از 156 · هوش مصنوعی خصوصی
هوش مصنوعی خصوصی

مدل‌های روی دستگاه

چرا مهم است یک مدل روی دستگاه به شما پاسخ می‌دهد بی‌آنکه واژه‌هایتان هرگز کامپیوتر یا گوشی‌تان را ترک کنند. این «دادهٔ خود را به ما بسپارید» را به «ما هرگز دادهٔ شما را نداشتیم» تبدیل می‌کند. صیقل هوش مصنوعی CV Builder و دستیار آموزشی این دوره همین‌طور کار می‌کنند و می‌توانید خودتان بررسی‌اش کنید.

سرآشپز در آشپزخانهٔ شما

هوش مصنوعی ابری مثل یک رستوران است: سفارشتان را به گارسون می‌دهید و پخت دور از چشم شما انجام می‌شود. یک مدل روی دستگاه مثل این است که سرآشپز به آشپزخانهٔ شما بیاید. سرآشپز باید یک بار تا پیش شما سفر کند (همان دانلود)، اما پس از آن هر وعده در خانه پخته می‌شود و هیچ‌کس دیگری نمی‌بیند چه می‌خورید.

مدل: یک فایل بزرگ از اعداد (به نام وزن‌ها) به‌علاوهٔ کدی که از آن‌ها برای پیش‌بینی واژه‌های بعدی یک متن استفاده می‌کند. «اجرای یک مدل» یعنی انجام مقدار زیادی ریاضی با آن اعداد.

مدل روی دستگاه: مدلی که وزن‌هایش روی دستگاه شما دانلود و همانجا، با پردازنده یا تراشهٔ گرافیکی خودتان، اجرا می‌شود. درخواست و پاسخ شما روی دستگاه می‌مانند.

در مرورگر چگونه کار می‌کند

Floati از WebLLM استفاده می‌کند، یک کتابخانهٔ متن‌باز که مدل‌های زبانی را درون یک صفحهٔ وب اجرا می‌کند. سه تکه آن را به کار می‌اندازند:

  • WebGPU، قابلیتی از مرورگر که به یک صفحه اجازه می‌دهد از تراشهٔ گرافیکی شما (GPU) برای ریاضی سریع استفاده کند. مدل‌های زبانی ریاضی زیادی لازم دارند، پس همین است که آن‌ها را در یک زبانه قابل استفاده می‌کند.
  • یک مدل کوچک و فشرده. دستیار آموزشی دوره و CV Builder از یک مدل کوچک پیرو دستورالعمل با حدود نیم میلیارد پارامتر استفاده می‌کنند که فشرده شده تا در یک مرورگر جا شود (بررسی‌شده در اکتبر 2026).
  • حافظهٔ نهان مرورگر که وزن‌های دانلودشده را نگه می‌دارد تا بازدید بعدی بسیار سریع‌تر شروع شود.

پارامترها: تک‌تک اعداد درون یک مدل. پارامترهای بیشتر معمولاً یعنی مدلی تواناتر و دانلودی بزرگ‌تر.

کوانتیزه کردن: ذخیرهٔ هر عدد با بیت‌های کمتر (برای مثال 4 بیت به جای 16 یا 32). مثل ذخیرهٔ یک عکس با کیفیت پایین‌تر: بسیار کوچک‌تر، کمی کمتر واضح.

آنچه واقعاً روی شبکه سفر می‌کند

صداقت اینجا اهمیت دارد. استفاده از یک مدل روی دستگاه «اصلاً بدون شبکه» نیست. دو چیز دانلود می‌شود:

  1. کد کتابخانه که مدل را اجرا می‌کند.
  2. وزن‌های مدل که صدها مگابایت‌اند، یک بار دانلود و سپس در حافظهٔ نهان نگه داشته می‌شوند.

هر دو دانلود به سوی شما هستند. آنچه هرگز فرستاده نمی‌شود سمت شماست: پرسش‌هایی که می‌پرسید و متنی که می‌چسبانید. سروری که وزن‌ها را میزبانی می‌کند می‌فهمد کسی مدلی را دانلود کرده، بسیار شبیه دانلود هر فایل دیگری، اما هرگز گفت‌وگوی شما را نمی‌بیند.

بده‌بستان‌ها

مدل ابریمدل روی دستگاه
چه کسی متن شما را می‌بیندفراهم‌کنندهفقط دستگاه شما
کیفیتمعمولاً بسیار قوی‌ترخوب در کارهای کوچک و متمرکز
اولین استفادهفورییک دانلود بزرگ یک‌باره
نیازهایک اتصال اینترنتمرورگری با WebGPU و حافظهٔ کافی
کار به‌صورت آفلایننهبله، پس از دانلود

WebGPU در نسخه‌های رومیزی فعلی Chrome، Edge و Safari و در Firefox روی بعضی سیستم‌ها در دسترس است (بررسی‌شده در اکتبر 2026). روی دستگاه‌های قدیمی‌تر یا کم‌حافظه ممکن است مدل اصلاً بارگذاری نشود و به همین دلیل CV Builder در Floati یک پیشنهاددهندهٔ سادهٔ مبتنی بر قاعده هم دارد که به مدل نیازی ندارد. دربارهٔ تفاوت روشن باشید: آن پیشنهاددهنده روی سرور خود Floati اجرا می‌شود، پس متن رزومهٔ شما به آنجا فرستاده می‌شود، هرچند هرگز به یک شرکت هوش مصنوعی نه.

یک تصور نادرست رایج

«مدل‌های کوچک بی‌فایده‌اند.» یک مدل نیم‌میلیارد پارامتری رمان شما را نمی‌نویسد، اما در کارهای محدود خوب است: بازنویسی یک جمله، دادن یک راهنمایی، خلاصه کردن یک پاراگراف. برای بسیاری از کارهای خصوصی، یک مدل کوچک محلی ابزار درست است و یک مدل ابری غول‌پیکر زیاده‌روی‌ای است که بهایش دادهٔ شماست.

امتحان کنید درسی را با دستیار آموزشی باز کنید و DevTools مرورگرتان را باز کنید (F12، یا Cmd+Option+I در مک)، سپس زبانهٔ Network را. دستیار را راه بیندازید: دانلودهای بزرگی برای مدل می‌بینید. وقتی بارگذاری شد، فهرست را پاک کنید و پرسشی از دستیار بپرسید. فهرست را تماشا کنید: ممکن است یک شمارندهٔ کوچک صفحه ببینید، اما هیچ درخواستی پرسش یا کد شما را با خود ندارد.

خلاصه

  • یک مدل روی دستگاه روی سخت‌افزار خودتان اجرا می‌شود، پس درخواست‌ها و پاسخ‌هایتان هرگز دستگاه را ترک نمی‌کنند.
  • در مرورگر این کار از WebGPU، یک مدل کوچک کوانتیزه‌شده و حافظهٔ نهان استفاده می‌کند؛ دستیار آموزشی و CV Builder در Floati به همین شکل از WebLLM استفاده می‌کنند.
  • کد و وزن‌ها یک بار برای شما دانلود می‌شوند؛ متن شما هرگز بارگذاری نمی‌شود.
  • بهای آن کیفیت پایین‌تر، یک دانلود اولیهٔ بزرگ و نیازهای دستگاه است.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.