Trier des photos que personne n'a étiquetées
Pourquoi c'est important Les étiquettes coûtent cher : quelqu'un doit regarder chaque image. Les images sans étiquettes sont presque gratuites. Si un réseau pouvait apprendre des caractéristiques utiles à partir d'images non étiquetées seules, chaque modèle pourrait partir de millions d'exemples au lieu de milliers. C'est l'apprentissage auto-supervisé, et c'est ainsi que les grands modèles d'aujourd'hui sont préentraînés.
Les images de ce module sont de minuscules photos de 16 × 16 de six sortes d'objets (balle, boîte, anneau, tente, croix, lune) dans des scènes encombrées : fonds aléatoires, lumière de n'importe quel côté, ombres, choses au premier plan, flou et bruit de capteur. Elles sont générées, pas téléchargées, et construites pour se comporter comme de vraies photos : le cours a mesuré trois statistiques que partagent toutes les photos naturelles (comment les détails décroissent avec l'échelle, à quel point les bords sont clairsemés, à quel point les pixels voisins se ressemblent), et ces photos se trouvent dans la plage des vrais recadrages de photos sur les trois. photos.stats(X) les affiche.
Un test rapide de n'importe quel ensemble de caractéristiques : pour chaque photo, trouve ses 5 plus proches voisins selon ces caractéristiques et compte combien montrent la même sorte d'objet. Deviner au hasard donne 1 sur 6.
Trois sortes de caractéristiques :
- les pixels bruts ;
- un CNN avec des poids aléatoires, jamais entraîné ;
- le même CNN après un préentraînement SimCLR sur 4000 photos, sans aucune étiquette (le cours l'a entraîné une fois ; tu verras comment à la leçon 5).
Prédis d'abord : lesquelles rapprochent le plus les photos du même objet ?
Mots et symboles de cette leçon
- apprentissage auto-supervisé
- apprendre des caractéristiques à partir de données sans étiquettes, par une tâche que les données se fixent elles-mêmes
- SimCLR
- un entraînement auto-supervisé avec deux vues de chaque image et InfoNCE (Chen et al. 2020)
Affecte à my_guess "raw", "random" ou "simclr". Écris agreement(F, labels, k) : standardise chaque caractéristique, ramène chaque ligne à une longueur de 1, et renvoie la part des k plus proches voisins (par similarité cosinus, une photo n'est pas sa propre voisine) qui ont la même étiquette. Remplis scores pour les trois sortes de caractéristiques.
Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon
Cet exercice s'ouvre bientôt
Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.
Ce navigateur bloque les cookies pour learn.floati.life, donc les leçons que tu as terminées ici ne peuvent pas s'ouvrir dans l'ordre. Autorise les cookies pour ce site et recharge la page.