Programme Leçon 193 sur 246 · Module 18 : Apprendre sans étiquettes
Module 18 : Apprendre sans étiquettes

Trier des photos que personne n'a étiquetées

Pourquoi c'est important Les étiquettes coûtent cher : quelqu'un doit regarder chaque image. Les images sans étiquettes sont presque gratuites. Si un réseau pouvait apprendre des caractéristiques utiles à partir d'images non étiquetées seules, chaque modèle pourrait partir de millions d'exemples au lieu de milliers. C'est l'apprentissage auto-supervisé, et c'est ainsi que les grands modèles d'aujourd'hui sont préentraînés.

Les images de ce module sont de minuscules photos de 16 × 16 de six sortes d'objets (balle, boîte, anneau, tente, croix, lune) dans des scènes encombrées : fonds aléatoires, lumière de n'importe quel côté, ombres, choses au premier plan, flou et bruit de capteur. Elles sont générées, pas téléchargées, et construites pour se comporter comme de vraies photos : le cours a mesuré trois statistiques que partagent toutes les photos naturelles (comment les détails décroissent avec l'échelle, à quel point les bords sont clairsemés, à quel point les pixels voisins se ressemblent), et ces photos se trouvent dans la plage des vrais recadrages de photos sur les trois. photos.stats(X) les affiche.

Un test rapide de n'importe quel ensemble de caractéristiques : pour chaque photo, trouve ses 5 plus proches voisins selon ces caractéristiques et compte combien montrent la même sorte d'objet. Deviner au hasard donne 1 sur 6.

Trois sortes de caractéristiques :

  • les pixels bruts ;
  • un CNN avec des poids aléatoires, jamais entraîné ;
  • le même CNN après un préentraînement SimCLR sur 4000 photos, sans aucune étiquette (le cours l'a entraîné une fois ; tu verras comment à la leçon 5).

Prédis d'abord : lesquelles rapprochent le plus les photos du même objet ?

Mots et symboles de cette leçon
apprentissage auto-supervisé
apprendre des caractéristiques à partir de données sans étiquettes, par une tâche que les données se fixent elles-mêmes
SimCLR
un entraînement auto-supervisé avec deux vues de chaque image et InfoNCE (Chen et al. 2020)
À ton tour

Affecte à my_guess "raw", "random" ou "simclr". Écris agreement(F, labels, k) : standardise chaque caractéristique, ramène chaque ligne à une longueur de 1, et renvoie la part des k plus proches voisins (par similarité cosinus, une photo n'est pas sa propre voisine) qui ont la même étiquette. Remplis scores pour les trois sortes de caractéristiques.

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.