Lehrplan Lektion 193 von 246 · Modul 18: Lernen ohne Labels
Modul 18: Lernen ohne Labels

Sortieren von Fotos, die niemand beschriftet hat

Warum das wichtig ist Labels sind teuer: jemand muss jedes Bild ansehen. Bilder ohne Labels sind fast kostenlos. Wenn ein Netzwerk nützliche Merkmale allein aus unbeschrifteten Bildern lernen könnte, könnte jedes Modell mit Millionen von Beispielen statt Tausenden beginnen. Das ist self-supervised learning, und so werden die heutigen großen Modelle vortrainiert.

Die Bilder in diesem Modul sind winzige 16 x 16 Fotos von sechs Arten von Objekten (ball, box, ring, tent, cross, moon) in unordentlichen Szenen: zufällige Hintergründe, Licht von jeder Seite, Schatten, Dinge davor, Unschärfe und Sensorrauschen. Sie werden generiert, nicht heruntergeladen, und sind so gebaut, dass sie sich wie echte Fotos verhalten: der Kurs maß drei Statistiken, die jedes natürliche Foto teilt (wie Details mit der Skalierung abnehmen, wie spärlich die Kanten sind, wie ähnlich benachbarte Pixel sind), und diese Fotos liegen in dem Bereich echter Fotoausschnitte in allen drei. photos.stats(X) druckt sie aus.

Ein kurzer Test für jede Menge von Features: für jedes Foto findest du seine 5 nächsten Nachbarn anhand dieser Features und zählst, wie viele das gleiche Objekt zeigen. Zufälliges Raten ergibt 1 von 6.

Drei Arten von Features:

  • die rohen Pixel;
  • a CNN mit zufälligen Gewichten, nie trainiert;
  • das gleiche CNN nach SimCLR Pretraining auf 4000 Fotos, mit gar keinen Labels (der Kurs hat es einmal trainiert; du wirst in Lektion 5 sehen wie).

Vorhersage zuerst: welches bringt Fotos desselben Objekts am nächsten zusammen?

Wörter und Symbole in dieser Lektion
selbstüberwachtes Lernen
lernt Merkmale aus Daten ohne Labels, durch eine Aufgabe setzt sich die Daten selbst
SimCLR
selbstüberwachtes Training mit zwei Ansichten jedes Bildes und InfoNCE (Chen et al. 2020)
Du bist dran

Set my_guess auf "raw", "random" oder "simclr". Schreibe agreement(F, labels, k): standardisiere jedes Feature, skaliere jede Zeile auf die Länge 1 und gib den Anteil der k nächsten Nachbarn zurück (durch Cosinus-Ähnlichkeit, ein Foto ist nicht sein eigener Nachbar), die das gleiche Label haben. Fülle scores für die drei Arten von Features.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.