Lis le résultat, pas le ton
Pourquoi c'est important La réponse d'un assistant est un paquet d'affirmations : ces paquets existent, ce diff corrige seulement le bogue, ce code gère le cas limite, ces commandes sont sûres. Chaque affirmation peut être vérifiée, et la plupart des vérifications sont bon marché.
Les modules précédents prouvaient qu'un conseil était faux avec un test qui échoue. Ce module va un pas plus loin : il vérifie les parties d'une réponse que les gens sautent parce qu'elles ressemblent à de la plomberie.
- Noms : paquets, fonctions et options. Dans une vaste étude sur les modèles qui génèrent du code, en moyenne au moins 5.2 % des paquets recommandés par les modèles commerciaux, et 21.7 % de ceux des modèles ouverts, n'existaient pas, avec plus de 200 000 noms inventés distincts (Spracklen et al., USENIX Security 2025). Un attaquant peut enregistrer un nom inventé et attendre.
- Portée : un diff qui corrige le bogue et change discrètement trois autres fonctions.
- Choix : une demande vague fait décider à l'assistant des choses que tu n'as jamais dites, comme la casse, l'ordre ou les valeurs vides.
- Accord : demander deux fois et obtenir deux fois la même réponse ne la rend pas juste.
- Actions : un agent qui exécute des commandes peut sortir du dossier que tu visais.
Slopsquatting : enregistrer un paquet sous un nom que les modèles ont tendance à inventer, pour que le code qui l'installe exécute le code de l'attaquant.
Typosquatting : la vieille ruse qui consiste à enregistrer un nom à une faute de frappe d'un paquet populaire (requets), en attendant une erreur de frappe, d'une personne ou d'un modèle.
Les sorties d'assistant de ce module ont été écrites pour le cours, exactement sous la forme que produisent les vrais assistants. Ce n'est pas un enregistrement d'un modèle particulier.
Récap Découpe une réponse en affirmations et vérifie les moins coûteuses à chaque fois : noms, portée, choix, accord, actions.
Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon
Cet exercice s'ouvre bientôt
Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.
Ce navigateur bloque les cookies pour learn.floati.life, donc les leçons que tu as terminées ici ne peuvent pas s'ouvrir dans l'ordre. Autorise les cookies pour ce site et recharge la page.