Sortieren von Fotos, die niemand beschriftet hat
Warum das wichtig ist Labels sind teuer: jemand muss jedes Bild ansehen. Bilder ohne Labels sind fast kostenlos. Wenn ein Netzwerk nützliche Merkmale allein aus unbeschrifteten Bildern lernen könnte, könnte jedes Modell mit Millionen von Beispielen statt Tausenden beginnen. Das ist self-supervised learning, und so werden die heutigen großen Modelle vortrainiert.
Die Bilder in diesem Modul sind winzige 16 x 16 Fotos von sechs Arten von Objekten (ball, box, ring, tent, cross, moon) in unordentlichen Szenen: zufällige Hintergründe, Licht von jeder Seite, Schatten, Dinge davor, Unschärfe und Sensorrauschen. Sie werden generiert, nicht heruntergeladen, und sind so gebaut, dass sie sich wie echte Fotos verhalten: der Kurs maß drei Statistiken, die jedes natürliche Foto teilt (wie Details mit der Skalierung abnehmen, wie spärlich die Kanten sind, wie ähnlich benachbarte Pixel sind), und diese Fotos liegen in dem Bereich echter Fotoausschnitte in allen drei. photos.stats(X) druckt sie aus.
Ein kurzer Test für jede Menge von Features: für jedes Foto findest du seine 5 nächsten Nachbarn anhand dieser Features und zählst, wie viele das gleiche Objekt zeigen. Zufälliges Raten ergibt 1 von 6.
Drei Arten von Features:
- die rohen Pixel;
- a CNN mit zufälligen Gewichten, nie trainiert;
- das gleiche CNN nach SimCLR Pretraining auf 4000 Fotos, mit gar keinen Labels (der Kurs hat es einmal trainiert; du wirst in Lektion 5 sehen wie).
Vorhersage zuerst: welches bringt Fotos desselben Objekts am nächsten zusammen?
Wörter und Symbole in dieser Lektion
- selbstüberwachtes Lernen
- lernt Merkmale aus Daten ohne Labels, durch eine Aufgabe setzt sich die Daten selbst
- SimCLR
- selbstüberwachtes Training mit zwei Ansichten jedes Bildes und InfoNCE (Chen et al. 2020)
Set my_guess auf "raw", "random" oder "simclr". Schreibe agreement(F, labels, k): standardisiere jedes Feature, skaliere jede Zeile auf die Länge 1 und gib den Anteil der k nächsten Nachbarn zurück (durch Cosinus-Ähnlichkeit, ein Foto ist nicht sein eigener Nachbar), die das gleiche Label haben. Fülle scores für die drei Arten von Features.
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.