Programme Leçon 111 sur 250 · L'intuition des réseaux de neurones, les LLM et le projet final IA
L'intuition des réseaux de neurones, les LLM et le projet final IA

L'IA sur l'appareil (sans cloud)

La plupart des applis d'IA envoient ton texte au serveur d'une entreprise, qui fait tourner le modèle et renvoie la réponse. Ça veut dire des comptes, des clés d'API, des factures, et tes données qui quittent ta machine. Floati refuse tout ça.

Floati fait tourner son IA côté client, directement dans ton navigateur ou ton appli, avec WebLLM par-dessus WebGPU. WebGPU est un standard des navigateurs qui permet au code web d'utiliser la carte graphique de ton ordinateur ; WebLLM s'en sert pour faire tourner localement un vrai modèle de langage (plus petit). Les poids du modèle se téléchargent une fois, puis tout se passe sur ton appareil.

  • Pas de clés, pas de cloud, pas de facture. Rien à créer comme compte.
  • Privé par conception. Tes prompts ne quittent jamais la machine, ce qui colle à la promesse hors ligne d'abord de Floati.
  • Des limites honnêtes. Les modèles sur l'appareil sont plus petits et plus lents que les géants hébergés, et ils ont besoin d'un navigateur compatible WebGPU. Le compromis, c'est la confidentialité et un coût nul.

Quel que soit le modèle auquel tu parles, tu lui parles à travers un prompt. Une bonne habitude réutilisable consiste à garder une instruction système (qui le modèle doit être) séparée du message de l'utilisateur, puis à les assembler en une seule chaîne avec un dernier tour clair que le modèle doit continuer :

def build_prompt(system, user):
    return f"System: {system}\nUser: {user}\nAssistant:"

Finir sur Assistant: indique où le modèle doit commencer à écrire. Tu vas construire ce modèle de prompt maintenant ; la leçon suivante l'utilise pour appeler vraiment le modèle sur l'appareil.

À ton tour

Écris build_prompt(system, user) qui renvoie une seule chaîne exactement de cette forme : System: <system>, puis un retour à la ligne, User: <user>, un retour à la ligne, puis Assistant: sans rien après. Puis écris prompt = build_prompt("You are concise.", "Summarize my week.").

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.