ابزار مسیریاب / توزیعکننده
مدل اسکیماهای ابزار شما را خوانده و با یک فراخوانی ابزار پاسخ داده است: یک شیء تجزیهشده مانند {"name": "add", "arguments": {"a": 4, "b": 5}}. اکنون برنامه شما باید واقعاً تابع درست را اجرا کند. این وظیفه یک دیسپچر (یا روتر) است: ابزار نامبرده را پیدا کند، بررسی کند که آرگومانها دقیقاً همان چیزی هستند که تابع انتظار دارد، آن را فراخوانی کند و نتیجه را بازگرداند. این همان خطی است که کلمات یک LLM به یک اثر جانبی واقعی در سیستم شما تبدیل میشوند، بنابراین اینجا جایی است که باید سختگیر باشید.
در یک حلقهٔ واقعی، این خط درست پس از تجزیهٔ پاسخ مدل قرار میگیرد:
call = parse_tool_call(model_reply) # {"name": ..., "arguments": {...}}
result = dispatch(call, TOOL_REGISTRY) # runs the matching Python function
# feed result back to the model as the tool's observationشما در حال ساختن dispatch(call, registry)، که registry نام ابزارها را به توابع پایتون نگاشت میکند. باید:
- خواندن
call["name"]وcall["arguments"](آرگومانهای پیشفرض به{}). - یک ابزار ناشناخته را رد کند. اگر نام در رجیستری نباشد، یک خطا ایجاد کند
ValueError-> هرگز بیصدا هیچ کاری انجام ندهد و هرگز ابزاری را که مدل اشتباه تصور کرده است اجرا نکند. - استدلالها را اعتبارسنجی کنید. از
inspect.signatureبرای بهدستآوردن نامهای پارامتر تابع و تأیید اینکه کلیدهای آرگومان ارائهشده دقیقاً مطابقت دارند -> در صورت وجود آرگومان مفقود یا اضافی غیرمنتظره باید خطا ایجاد شود. - فراخوانی کنید و بازگردانید. تابع را با
func(**arguments)و نتیجه آن را بازگردانید.
import inspect
expected = set(inspect.signature(func).parameters)
if set(arguments) != expected:
raise ValueError("bad arguments")
return func(**arguments)چرا در مورد آرگومانها اینقدر سختگیر هستیم؟ فراخوانی ابزاری که با آرگومانهای نادرست اجرا شود، یا در عمق تابع شما کرش میکند یا بدتر، بیصدا کار اشتباه انجام میدهد. هدف اصلی همین است که در مرز ورودی با صدای بلند خطا رخ دهد. آن را طوری بسازید که دو ابزار مختلف (مثلاً یک ماشینحساب و یک ابزار جستجو) هر کدام نتیجهٔ خود را بازگردانند، یک ابزار ناشناخته خطا دهد، و هم ارجاعِ پارامترِ کم و هم ارجاعِ پارامترِ اضافی خطا دهند.
نوشتن dispatch(call, registry) کجا call است {"name": ..., "arguments": {...}} و registry نامها را به توابع نگاشت میکند. در صورت مشاهده نام ابزار ناشناخته، خطا ایجاد میکند. استفاده کنید inspect.signature تا تأیید کند که هر پارامتر الزامی موجود است و هیچ مورد اضافی غیرمنتظرهای وجود ندارد (پارامتری که دارای مقدار پیشفرض است اختیاری است، بنابراین حذف آن مشکلی ندارد). inspect.signature(func).parameters هر نام را به یک شیء پارامتر نگاشت میکند p; p.default is inspect.Parameter.empty دقیقاً زمانی که پارامتر مقدار پیشفرض ندارد (و بنابراین الزامی است)، True برمیگردد، سپس call را فراخوانی کنید func(**arguments) و نتیجه را بازگردانید. دو ابزار مجزا باید هر کدام نتیجهٔ خود را بازگردانند.
مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید
این تمرین بهزودی باز میشود
درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و میتوانید همین الان این درس را بخوانید.
این مرورگر کوکیهای learn.floati.life را مسدود میکند، پس درسهایی که اینجا تمام کردید نمیتوانند به ترتیب باز شوند. کوکیها را برای این سایت مجاز کنید و صفحه را دوباره بارگذاری کنید.