Pengirim Alat / Router
Model sudah membaca skema tool kamu dan membalas dengan tool call: objek yang sudah diparsing seperti {"name": "add", "arguments": {"a": 4, "b": 5}}. Sekarang program kamu harus benar-benar run fungsi yang tepat. Itu adalah tugas dari dispatcher (atau router): cari tool berdasarkan nama, cek argumennya sesuai dengan yang diharapkan fungsi, panggil fungsi tersebut, dan kembalikan hasilnya. Ini adalah bagian di mana kata-kata LLM menjadi efek samping nyata di sistem kamu, jadi kamu harus sangat teliti di sini.
Di dalam loop yang nyata, ini duduk tepat setelah parsing balasan model:
call = parse_tool_call(model_reply) # {"name": ..., "arguments": {...}}
result = dispatch(call, TOOL_REGISTRY) # runs the matching Python function
# feed result back to the model as the tool's observationKamu sedang membangun dispatch(call, registry), di mana registry memetakan nama alat ke fungsi Python. Ini harus:
- Baca
call["name"]dancall["arguments"](argumen default ke{}). - Tolak tool yang tidak dikenal. Jika namanya tidak ada di registry, berikan
ValueError-> jangan pernah diam saja, dan jangan pernah jalankan tool yang dihalusinasi oleh model. - Validasi argumennya. Gunakan
inspect.signatureuntuk mengambil nama parameter fungsi dan pastikan kunci argumen yang diberikan cocok persis -> argumen yang hilang atau tambahan yang tidak terduga harus memicu error. - Panggil dan kembalikan.Panggil fungsi dengan
func(**arguments)dan kembalikan hasilnya.
import inspect
expected = set(inspect.signature(func).parameters)
if set(arguments) != expected:
raise ValueError("bad arguments")
return func(**arguments)Kenapa harus seketat itu soal argumen? Pemanggilan tool dengan argumen yang salah bisa bikin crash di dalam fungsi kamu atau, lebih parah lagi, malah melakukan hal yang salah tanpa ketahuan. Gagal dengan jelas di batas input adalah poin utamanya. Buat supaya dua tool berbeda (misalnya kalkulator dan pencarian) masing-masing mengembalikan hasilnya sendiri, tool yang tidak dikenal memicu error, dan argumen yang hilang atau kelebihan juga memicu error.
Tulis dispatch(call, registry) di mana call adalah {"name": ..., "arguments": {...}} dan registry memetakan nama ke fungsi. Berikan error jika nama tool tidak dikenal. Gunakan inspect.signature untuk memastikan setiap parameter yang required ada dan tidak ada tambahan yang tidak terduga (parameter dengan default bersifat opsional, jadi tidak masalah jika dihilangkan). inspect.signature(func).parameters memetakan setiap nama ke objek parameter p; p.default is inspect.Parameter.empty bernilai True tepat saat parameter tidak punya default, jadi itu wajib, lalu panggil func(**arguments) dan kembalikan hasilnya. Dua tool yang berbeda harus masing-masing mengembalikan hasilnya sendiri.
Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini
Latihan ini akan segera dibuka
Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.
Browser ini memblokir cookie untuk learn.floati.life, jadi pelajaran yang sudah kamu selesaikan di sini tidak bisa dibuka berurutan. Izinkan cookie untuk situs ini dan muat ulang.