سرفصل‌ها درس 197 از 250 · ML در اطراف LLM
ML در اطراف LLM

مسیر‌یابی از جاسازی به نمونه اولیه

یک طبقه‌ریز به داده‌های آموزشی برچسب‌خورده نیاز دارد. گاهی هیچ‌کدام را ندارید -> فقط چندتایی دارید. مثال پرس‌وجو برای هر نیت. ارزان‌ترین روتر سپس است نزدیک‌ترین-پروتوتایپهر نیت را با یک بردار (پروتوتایپ آن، که اغلب میانگین امبدینگ چند مثال است) نمایش دهید، پرس‌وجوی ورودی را امبد کنید و آن را به پروتوتایپی هدایت کنید که بیشترین اشاره را به آن دارد.

«به طور مستقیم به» به معنای شباهت کسینوسی: کسینوس زاویه بین دو بردار، بدون در نظر گرفتن طول آن‌ها. این معیار مناسب برای متن است زیرا یک سند طولانی و یک سند کوتاه دربارهٔ موضوعی مشابه همچنان باید با هم مطابقت داشته باشند.

cosine(a, b) = (a . b) / (|a| |b|)

مقداری نزدیک به 1.0 به این معنی است که بردارها در یک جهت هستند (هدف یکسان)؛ نزدیک 0.0 به معنای بی‌ارتباط است. روتر نمونه‌ی اولیه با بالاترین ضریب کسینوس را انتخاب می‌کند و آن امتیاز هم‌زمان به‌عنوان یک اعتماد به نفس می‌توانید بعداً آستانه را تنظیم کنید.

چیدمان صادقانه: در تولید آن بردارها از یک مدل امبدینگ آموزش‌دیده (یک فراخوانی API یا یک sentence-transformer) می‌آیند. ما نمی‌توانیم اینجا آن‌ها را بارگذاری کنیم -> هیچ فایل وزن‌های مدل وجود ندارد و هیچ GPU در مرورگر نیست. بنابراین در این درس بردارها به شما داده شده به‌صورت آرایه‌های ساده numpy. شما در حال ساختن هندسه مسیریابیکه در هر صورت یکسان است، چه اعداد از یک امبدکنندهٔ واقعی آمده باشند یا از یک فیکسچر. امبدینگ‌های واقعی صرفاً اعداد بهتری را پر می‌کنند؛ منطق کسینوس و آرگ‌ماکس همان بخشی است که شما ارائه می‌دهید.

بسته‌ها باید قطعی باشند. اگر دو پروتوتایپ دقیقاً در فاصلهٔ مساوی باشند، انتخاب «هرکدام که در دیکت اول بیاید» یک باگ پنهان است -> ترتیب دیکت می‌تواند تغییر کند. برای شکستن تساوی، نیتی را انتخاب کنید که نامش از نظر حروف الفبا اول باشد، تا همیشه یکسان حل شود.

دو تابع بسازید. cosine(a, b) شباهت کسینوس دو بردار را بازمی‌گرداند و در برابر صفر ایمن است (یک بردار با طول صفر بازمی‌گرداند 0.0، هرگز NaN نیست). route_by_prototype(query_vec, prototypes) کتگوری وکتور پرس‌وجو و یک دیکت را می‌گیرد {intent_name: prototype_vector} و یک تِیوِل برمی‌گرداند (best_intent, best_score) -> نزدیک‌ترین نمونه اولیه و کسینوس آن، با شکستن تساوی حروفی. فشار دهید دویدن چند پرس‌وجو را مسیریابی کنید و ببینید هر کدام چه میزان اطمینانی را برمی‌گردانند.

نوبت شما

نوشتن cosine(a, b) = a.b / (|a||b|)، بازگرداندن 0.0 وقتی هر یک از بردارها طول صفر داشته باشند (بدون NaN). سپس بنویسید route_by_prototype(query_vec, prototypes) که prototypes یک dict است {name: vector}; تuple را بازگردانید (best_name, best_score) برای بیشترین کسینوس، در صورت تساوی دقیق با نام الفبایی اول اولویت‌بندی کنید. نگهدارندهٔ starter's PROTOTYPES همان‌طور که هست: چک آن را می‌خواند.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.