سرفصل‌ها درس 118 از 250 · فراخوانی یک LLM واقعی
فراخوانی یک LLM واقعی

فراخوانی ابزار موازی و is_error

درس قبلی تنها یک فراخوانی ابزار را مدیریت کرد. اما مدل‌های مدرن به‌طور هم‌زمان چندین ابزار را درخواست می‌کنند: استفاده موازی از ابزارها به‌صورت پیش‌فرض فعال است، بنابراین یک نوبت دستیار می‌تواند شامل سه یا چهار tool_use بلوک («وضعیت هوا را دریافت کن و سفارش را جستجو کن و موجودی را بررسی کن»). اگر کدنویسی شما فقط اولین مورد را اجرا کند، مدل منتظر نتایجی می‌ماند که هرگز نمی‌آیند و نوبت متوقف می‌شود.

«پارالل» در اینجا توصیف‌کننده درخواست مدل است، نه اجرای شما: مدل در یک نوبت، درخواست چندین ابزار را کرده است. شما می‌توانید به سادگی آن‌ها را یکی پس از دیگری اجرا کرده و همه نتایج را با هم بازگردانید، بدون نیاز به هیچ‌گونه تاند (thread) یا اجرای ناهمزمان (async).

قرارداد دقیق است: هر tool_use block، سپس یک پیام کاربر را که ... content یک لیست از tool_result را بازگردانید، هر کدام با echo کردن بلوک مربوطه. tool_use_id.

{"content": [
  {"type": "tool_use", "id": "t1", "name": "get_weather", "input": {"city": "Paris"}},
  {"type": "tool_use", "id": "t2", "name": "add",         "input": {"a": 2, "b": 5}}],
 "stop_reason": "tool_use"}

ایدهٔ جدید دوم، جداسازی خطا است. اگر یک ابزار خطا تولید کند، شما کل نوبت را از کار نمی‌اندازید و سایر نتایج را از دست نمی‌دهید. شما بلوک آن ابزار را بازمی‌گردانید tool_result با "is_error": True و متن خطا را به‌عنوان محتوای آن بازمی‌گردانید، تا مدل بتواند ببیند چه چیزی اشتباه پیش رفته و بازیابی شود. یک نام ابزار هذیانی (که در رجیستری شما وجود ندارد) صرفاً یک خطای دیگر است: آن را به‌عنوان is_error، هرگز چیزی را که ثبت نکرده‌اید اجرا نکنید.

ساخت run_tool_calls(resp, tools) بازگرداندن یک پیام پیگیری واحد به کاربر. در صورت موفقیت یک tool_result دارد دقیقاً type, tool_use_id، و content (نتیجه از طریق str(...)); در صورت خطا همچنین حمل می‌کند "is_error": True. برای پاسخ به یک نوبت دو تماس، دکمه Run را فشار دهید.

نوبت شما

نوشتن run_tool_calls(resp, tools) که اجرا می‌کند هر tool_use بلوک در resp["content"] (سایر انواع بلوک‌ها را نادیده بگیرید) و یک پیام کاربر را بازمی‌گرداند {"role": "user", "content": [ ...tool_result blocks... ]}، یک نتیجه در هر فراخوانی به ترتیب. هر نتیجه موفقیت‌آمیز است {"type": "tool_result", "tool_use_id": <id>, "content": str(result)}. اگر ابزاری OR را بالا ببرد یا نامش در tools، آن نتیجه به جای آن حاوی "is_error": True با متن خطا به صورت content، و ابزارهای دیگر همچنان اجرا می‌شوند.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.