Programme Leçon 113 sur 250 · L'intuition des réseaux de neurones, les LLM et le projet final IA
L'intuition des réseaux de neurones, les LLM et le projet final IA

Projet final IA : ton code pilote un LLM sur l'appareil

Voici le projet final, et c'est toi l'architecte. Tout le parcours mène à une idée : ton Python orchestre le modèle. Le LLM n'est qu'un composant que tu appelles -> ton code décide des données qu'il voit, de la forme de la demande, et de ce qui se passe quand aucun modèle n'est chargé. Tu vas construire cette orchestration à partir d'un fichier presque vide.

Toute vraie fonction d'IA suit la même boucle. Ton code fait le travail fiable, le modèle s'occupe de la formulation :

  • Calcule les faits avec pandas. Le code est exact en arithmétique ; un modèle ne l'est pas. Donc le nombre de lignes, le total, la moyenne et la catégorie principale viennent d'un DataFrame, jamais du LLM. C'est le seul moyen d'éviter des chiffres hallucinés.
  • Façonne la demande toi-même. Un modèle de prompt réutilisable garde l'instruction système (qui le modèle doit être) séparée du message utilisateur (ce qu'il doit faire), puis les assemble en une seule chaîne qui finit sur un marqueur de tour pour que le modèle sache où commencer à écrire.
  • Prévois toujours un chemin hors ligne. Le modèle sur l'appareil a besoin de WebGPU et n'est pas déterministe, donc tu écris aussi un générateur à base de règles qui transforme les mêmes faits en phrase. La fonction marche même sans aucun modèle.

Ce que tu vas construire

Deux fonctions, à partir de zéro. build_prompt(system, user) renvoie une seule chaîne propre qui contient les deux parties et finit sur Assistant:. insight(df) calcule les statistiques sur un tableau de dépenses intégré et renvoie une ligne en langage clair qui nomme ta plus grosse catégorie et le total. Un petit assistant spend_stats(df) fait le travail pandas pour que le rapport et l'analyse lisent les mêmes chiffres.

L'étape IA (essaie-la dans l'appli)

Floati fait tourner son modèle côté client avec WebLLM sur WebGPU -> pas de compte, pas de clé, pas de cloud, tes prompts ne quittent jamais la machine. L'appli branche un moteur partagé unique sur window._floatiTutor. Une fois build_prompt construite, voici le vrai appel (il vit hors du correcteur car il a besoin d'un GPU et n'est pas déterministe) :

// Floati already created window._floatiTutor (a WebLLM engine).
const prompt = build_prompt("You explain budgets in one warm sentence.", report);
const reply = await window._floatiTutor.chat.completions.create({
  messages: [{ role: "user", content: prompt }],
  temperature: 0.5, max_tokens: 120,
});
console.log(reply.choices[0].message.content);

Remarque que le modèle ne voit jamais que la chaîne report produite par ton Python -> les chiffres sont déjà justes avant que le modèle parle. Appuie sur Run pour voir ton pipeline hors ligne afficher ses statistiques et son analyse à base de règles ; ce rapport affiché est exactement ce que tu donnerais au modèle ci-dessus. Le correcteur vérifie la forme de ton prompt et ton insight déterministe, jamais la sortie d'un modèle.

À ton tour

Construis l'orchestration. Le DataFrame de dépenses df est intégré pour toi (10 lignes, colonnes category et amount). Écris trois choses : (1) spend_stats(df) -> un dict avec les clés rows, total, average, top_category, top_amount (totaux et moyennes arrondis à 2 décimales, catégorie principale selon la somme des montants) ; (2) build_prompt(system, user) -> une seule chaîne qui contient system et user et finit sur Assistant: pour que le modèle continue à partir de là ; (3) insight(df) -> une chaîne non vide en langage clair (la solution de repli à base de règles) qui nomme la catégorie principale et montre un TOTAL: <amount> avec des montants à 2 décimales. Puis écris report = insight(df) et print(report).

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.