Silabus Pelajaran 141 dari 250 · Output Terstruktur & Pemanggilan Fungsi/Tool
Output Terstruktur & Pemanggilan Fungsi/Tool

Pengirim Alat / Router

Model sudah membaca skema tool kamu dan membalas dengan tool call: objek yang sudah diparsing seperti {"name": "add", "arguments": {"a": 4, "b": 5}}. Sekarang program kamu harus benar-benar run fungsi yang tepat. Itu adalah tugas dari dispatcher (atau router): cari tool berdasarkan nama, cek argumennya sesuai dengan yang diharapkan fungsi, panggil fungsi tersebut, dan kembalikan hasilnya. Ini adalah bagian di mana kata-kata LLM menjadi efek samping nyata di sistem kamu, jadi kamu harus sangat teliti di sini.

Di dalam loop yang nyata, ini duduk tepat setelah parsing balasan model:

call = parse_tool_call(model_reply)        # {"name": ..., "arguments": {...}}
result = dispatch(call, TOOL_REGISTRY)     # runs the matching Python function
# feed result back to the model as the tool's observation

Kamu sedang membangun dispatch(call, registry), di mana registry memetakan nama alat ke fungsi Python. Ini harus:

  • Baca call["name"] dan call["arguments"] (argumen default ke {}).
  • Tolak tool yang tidak dikenal. Jika namanya tidak ada di registry, berikan ValueError -> jangan pernah diam saja, dan jangan pernah jalankan tool yang dihalusinasi oleh model.
  • Validasi argumennya. Gunakan inspect.signature untuk mengambil nama parameter fungsi dan pastikan kunci argumen yang diberikan cocok persis -> argumen yang hilang atau tambahan yang tidak terduga harus memicu error.
  • Panggil dan kembalikan.Panggil fungsi dengan func(**arguments) dan kembalikan hasilnya.
import inspect
expected = set(inspect.signature(func).parameters)
if set(arguments) != expected:
    raise ValueError("bad arguments")
return func(**arguments)

Kenapa harus seketat itu soal argumen? Pemanggilan tool dengan argumen yang salah bisa bikin crash di dalam fungsi kamu atau, lebih parah lagi, malah melakukan hal yang salah tanpa ketahuan. Gagal dengan jelas di batas input adalah poin utamanya. Buat supaya dua tool berbeda (misalnya kalkulator dan pencarian) masing-masing mengembalikan hasilnya sendiri, tool yang tidak dikenal memicu error, dan argumen yang hilang atau kelebihan juga memicu error.

Giliranku

Tulis dispatch(call, registry) di mana call adalah {"name": ..., "arguments": {...}} dan registry memetakan nama ke fungsi. Berikan error jika nama tool tidak dikenal. Gunakan inspect.signature untuk memastikan setiap parameter yang required ada dan tidak ada tambahan yang tidak terduga (parameter dengan default bersifat opsional, jadi tidak masalah jika dihilangkan). inspect.signature(func).parameters memetakan setiap nama ke objek parameter p; p.default is inspect.Parameter.empty bernilai True tepat saat parameter tidak punya default, jadi itu wajib, lalu panggil func(**arguments) dan kembalikan hasilnya. Dua tool yang berbeda harus masing-masing mengembalikan hasilnya sendiri.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.