Sorteer foto's wat niemand gelabel het nie
Hoekom dit saak maak Labels is duur: iemand moet na elke prentjie kyk. Prentjies sonder labels is amper gratis. As 'n netwerk nuttige kenmerke uit ongelabelde prentjies alleen kon leer, kon elke model by miljoene voorbeelde begin in plaas van duisende. Dit is self-supervised learning, en dit is hoe vandag se groot modelle vooraf geleer word.
Die prente in hierdie module is klein 16 x 16 foto's van ses soorte voorwerpe (ball, box, ring, tent, cross, moon) in deurmekaar tonele: willekeurige agtergronde, lig van enige kant, skaduwees, dinge voorlangs, vervaging en sensorgeraas. Hulle word gegenereer, nie afgelaai nie, en is gebou om soos regte foto's te optree: die kursus het drie statistieke gemeet wat elke natuurlike foto deel (hoe detail afneem met skaal, hoe skraars die rante is, hoe soortgelyk naburige pixels is), en hierdie foto's val binne die reeks van regte foto-uittreksels op al drie. photos.stats(X) druk hulle uit.
'n vinnige toets van enige stel kenmerke: vir elke foto, vind die 5 naaste bure deur daardie kenmerke en tel hoeveel dieselfde soort objek wys. Willekeurige raaiwerk kry 1 in 6.
Drie soorte kenmerke:
- die rou pixels;
- a CNN met willekeurige gewigte, nooit getoëi nie;
- die selfde CNN na SimCLR voorafopleiding op 4000 foto's, met geen etikette nie (die kursus het dit een keer opgelei; jy sal sien hoe in les 5).
Voorspel eerste: watter een sit foto's van dieselfde voorwerp die naaste aan mekaar?
Woorde en simbole in hierdie les
- self-supervised learning
- leer kenmerke uit data sonder etikette, deur 'n taak stel die data homself op
- SimCLR
- self-gesuperviseerde opleiding met twee weergawes van elke prent en InfoNCE (Chen et al. 2020)
Stel my_guess in op "raw", "random" of "simclr". Skryf agreement(F, labels, k): standaardiseer elke kenmerk, skaal elke ry na lengte 1, en gee die deel van die k naaste bure (deur cosine similarity, 'n foto is nie sy eie buur nie) wat dieselfde label het terug. Vul scores vir die drie soorte kenmerke in.
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.