Müfredat 250 dersinden 118. · Gerçek bir LLM Çağırma
Gerçek bir LLM Çağırma

Paralel Araç Çağrıları ve is_error

Önceki ders tek bir araç çağrısını ele aldı. Ancak modern modeller birkaç tanesini aynı andaistiyor: paralel araç kullanımı varsayılan olarak açık, bu yüzden tek bir asistan sırası üç veya dört tool_use bloğu ("hava durumunu al VE siparişi bul VE envanteri kontrol et") içerebilir. Eğer kodun sadece ilkini çalıştırırsa, model hiç gelmeyecek sonuçlar için bekler ve sıra durur.

"Parallel" burada modelin REQUEST'ini tanımlar, senin çalışmanı değil: model tek bir turda birkaç araç istedi. Bunları sadece arka arkaya çalıştırıp tüm sonuçları birlikte geri gönderebilirsin, thread veya async gerekmiyor.

Sözleşme net: her tool_use bloğunu çalıştır, sonra one kullanıcı mesajını geri gönder, bu mesajın content bir listZ olmalı ve tool_result bloklarından oluşmalı, her çağrıda bir tane, her biri kendi tool_use_id değerini yankılamalı.

{"content": [
  {"type": "tool_use", "id": "t1", "name": "get_weather", "input": {"city": "Paris"}},
  {"type": "tool_use", "id": "t2", "name": "add",         "input": {"a": 2, "b": 5}}],
 "stop_reason": "tool_use"}

İkinci yeni fikir hata izolasyonu. Eğer bir araç hata verirse, tüm sırayı çökertmezsin ve diğer sonuçları kaybetmezsin. O bloğun tool_result değerini "is_error": True ve hata metni içeriğiyle döndürürsün, böylece model neyin yanlış gittiğini görebilir ve kurtarabilir. Uydurma bir araç adı (kaydında olmayan) sadece başka bir hatadır: onu is_error olarak raporla, asla kaydetmediğin bir şeyi çalıştırma.

run_tool_calls(resp, tools) döndüren tek takip mesajını oluştur. Başarılı olduğunda bir tool_result tam olarak type, tool_use_id ve content (str(...) üzerinden sonuç) içerir; başarısız olduğunda AYRICA "is_error": True taşır. İki çağrılı bir turu yanıtlamak için Run tuşuna bas.

Senin sıran

resp["content"] içindeki HER tool_use bloğunu çalıştıran ve sırasıyla her çağrıda bir kullanıcı mesajı {"role": "user", "content": [ ...tool_result blocks... ]} ve bir sonuç döndüren run_tool_calls(resp, tools) yaz. Her başarılı sonuç {"type": "tool_result", "tool_use_id": <id>, "content": str(result)}. Eğer bir araç hata verirse veya adı tools içinde yoksa, o sonuç yerine hata metni content olan "is_error": True taşır ve diğer araçlar çalışmaya devam eder.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.