Programme Leçon 88 sur 156 · L'IA privée
L'IA privée

Les modèles sur l'appareil

Pourquoi c'est important Un modèle sur l'appareil te répond sans que tes mots quittent jamais ton ordinateur ou ton téléphone. Ça transforme « faites-nous confiance avec vos données » en « nous n'avons jamais eu vos données ». C'est ainsi que marchent le polissage par IA du CV Builder et le tuteur de ce cours, et tu peux le vérifier toi-même.

Le chef dans ta cuisine

Une IA en ligne, c'est comme un restaurant : tu donnes ta commande à un serveur et la cuisine se fait hors de vue. Un modèle sur l'appareil, c'est comme faire venir le chef dans ta cuisine. Le chef doit se déplacer une fois (c'est le téléchargement), mais ensuite chaque repas est cuisiné à la maison, et personne d'autre ne voit ce que tu manges.

Modèle : un gros fichier de nombres (appelés poids) plus du code qui s'en sert pour prédire les mots suivants d'un texte. « Faire tourner un modèle » veut dire faire beaucoup de calculs avec ces nombres.

Modèle sur l'appareil : un modèle dont les poids sont téléchargés sur ton appareil et y tournent, avec ton propre processeur ou ta puce graphique. Ton prompt et la réponse restent sur l'appareil.

Comment ça marche dans un navigateur

Floati utilise WebLLM, une bibliothèque open source qui fait tourner des modèles de langage dans une page web. Trois pièces le font marcher :

  • WebGPU, une fonction du navigateur qui permet à une page d'utiliser ta puce graphique (GPU) pour des calculs rapides. Les modèles de langage ont besoin de beaucoup de calculs, c'est donc ce qui les rend utilisables dans un onglet.
  • Un petit modèle compressé. Le tuteur du cours et le CV Builder utilisent un petit modèle qui suit des instructions, d'environ un demi-milliard de paramètres, compressé pour tenir dans un navigateur (vérifié en octobre 2026).
  • Le cache du navigateur, qui garde les poids téléchargés pour que la visite suivante démarre bien plus vite.

Paramètres : les nombres individuels à l'intérieur d'un modèle. Plus de paramètres veut en général dire un modèle plus capable, et un plus gros téléchargement.

Quantification : stocker chaque nombre avec moins de bits (par exemple 4 bits au lieu de 16 ou 32). Comme enregistrer une photo en qualité plus basse : bien plus petit, un peu moins net.

Ce qui voyage vraiment sur le réseau

L'honnêteté compte ici. Utiliser un modèle sur l'appareil, ce n'est pas « aucun réseau du tout ». Deux choses sont téléchargées :

  1. Le code de la bibliothèque qui fait tourner le modèle.
  2. Les poids du modèle, qui font des centaines de mégaoctets, téléchargés une fois puis mis en cache.

Les deux sont des téléchargements vers toi. Ce qui n'est jamais envoyé, c'est ta partie : les questions que tu poses et le texte que tu colles. Le serveur qui héberge les poids apprend que quelqu'un a téléchargé un modèle, comme pour le téléchargement de n'importe quel fichier, mais il ne voit jamais ta conversation.

Les compromis

Modèle en ligneModèle sur l'appareil
Qui voit ton texteLe fournisseurSeulement ton appareil
QualitéEn général bien plus forteBon pour de petites tâches précises
Première utilisationInstantanéeUn gros téléchargement unique
BesoinsUne connexion internetUn navigateur avec WebGPU et assez de mémoire
Marche hors ligneNonOui, une fois téléchargé

WebGPU est disponible dans les versions de bureau actuelles de Chrome, Edge et Safari, et dans Firefox sur certains systèmes (vérifié en octobre 2026). Sur les appareils plus anciens ou avec peu de mémoire, le modèle peut ne pas se charger du tout, c'est pourquoi le CV Builder de Floati a aussi un simple suggesteur à base de règles qui n'a besoin d'aucun modèle. Sois clair sur la différence : ce suggesteur tourne sur le propre serveur de Floati, donc le texte de ton CV y est envoyé, mais jamais à une entreprise d'IA.

Une idée reçue

« Les petits modèles ne servent à rien. » Un modèle d'un demi-milliard de paramètres n'écrira pas ton roman, mais il est bon pour des tâches étroites : reformuler une phrase, donner un indice, résumer un paragraphe. Pour beaucoup de tâches privées, un petit modèle local est le bon outil, et un modèle géant en ligne est un excès qui te coûte tes données.

Essaie Ouvre une leçon avec le tuteur et ouvre les DevTools de ton navigateur (F12, ou Cmd+Option+I sur un Mac), puis l'onglet Network (Réseau). Démarre le tuteur : tu verras de gros téléchargements pour le modèle. Une fois qu'il est chargé, vide la liste et pose une question au tuteur. Regarde la liste : tu verras peut-être un petit compteur de pages, mais aucune requête ne porte ta question ni ton code.

Récap

  • Un modèle sur l'appareil tourne sur ton propre matériel, donc tes prompts et les réponses ne quittent jamais l'appareil.
  • Dans un navigateur, ça utilise WebGPU, un petit modèle quantifié et le cache ; le tuteur et le CV Builder de Floati utilisent WebLLM ainsi.
  • Le code et les poids sont téléchargés vers toi une fois ; ton texte n'est jamais envoyé.
  • Le prix, c'est une qualité moindre, un gros premier téléchargement et des exigences sur l'appareil.

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.