Répartiteur / routeur d'outils
Le modèle a lu tes schémas d'outils et a répondu par un appel d'outil : un objet lu comme {"name": "add", "arguments": {"a": 4, "b": 5}}. Maintenant ton programme doit vraiment exécuter la bonne fonction. C'est le travail d'un répartiteur (dispatcher, ou routeur) : trouver l'outil nommé, vérifier que les arguments sont exactement ceux qu'attend la fonction, l'appeler et renvoyer le résultat. C'est la ligne où les mots d'un LLM deviennent un vrai effet dans ton système, donc c'est aussi là que tu dois être strict.
Dans une vraie boucle, il se place juste après la lecture de la réponse du modèle :
call = parse_tool_call(model_reply) # {"name": ..., "arguments": {...}}
result = dispatch(call, TOOL_REGISTRY) # runs the matching Python function
# feed result back to the model as the tool's observationTu construis dispatch(call, registry), où registry associe des noms d'outils à des fonctions Python. Il doit :
- Lire
call["name"]etcall["arguments"](arguments à{}par défaut). - Refuser un outil inconnu. Si le nom n'est pas dans le registre, lever une
ValueError-> ne jamais ne rien faire en silence, et ne jamais lancer un outil halluciné par le modèle. - Valider les arguments. Utiliser
inspect.signaturepour obtenir les noms des paramètres de la fonction et vérifier que les clés d'arguments fournies correspondent exactement -> un argument manquant ou un argument en trop inattendu doit lever une exception. - Appeler et renvoyer. Appeler la fonction avec
func(**arguments)et renvoyer son résultat.
import inspect
expected = set(inspect.signature(func).parameters)
if set(arguments) != expected:
raise ValueError("bad arguments")
return func(**arguments)Pourquoi être si strict sur les arguments ? Un appel d'outil lancé avec de mauvais arguments soit plante au fond de ta fonction, soit, pire, fait la mauvaise chose en silence. Échouer bruyamment à la frontière, c'est tout l'intérêt. Construis-le pour que deux outils différents (disons une calculatrice et une recherche) renvoient chacun leur propre résultat, qu'un outil inconnu lève une exception, et qu'un argument manquant comme un argument en trop lèvent une exception.
Écris dispatch(call, registry) où call vaut {"name": ..., "arguments": {...}} et registry associe des noms à des fonctions. Lève une exception pour un nom d'outil inconnu. Utilise inspect.signature pour vérifier que chaque paramètre exigé est présent et qu'il n'y a pas d'argument en trop inattendu (un paramètre avec valeur par défaut est facultatif, donc l'omettre est permis). inspect.signature(func).parameters associe chaque nom à un objet paramètre p ; p.default is inspect.Parameter.empty vaut True exactement quand le paramètre n'a pas de valeur par défaut, donc qu'il est exigé ; puis appelle func(**arguments) et renvoie le résultat. Deux outils distincts doivent renvoyer chacun leur propre résultat.
Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon
Cet exercice s'ouvre bientôt
Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.
Ce navigateur bloque les cookies pour learn.floati.life, donc les leçons que tu as terminées ici ne peuvent pas s'ouvrir dans l'ordre. Autorise les cookies pour ce site et recharge la page.