Kurrikulum Leson 196 van 246 · Module 18: Leer sonder etikette
Module 18: Leer sonder etikette

Kies jou maat uit die groep (InfoNCE)

Waarom dit saak maak SimCLR se hele opleidingssein is een verlies, en jy weet dit reeds: dit is cross-entropy, op 'n keusevrae wat die netwerk self stel.

Neem 'n stel van n foto's en maak twee willeke weergawes van elk (sny, draai, verander helderheid en kleur). Dit gee 2n weergawes. Vir elke weergave is die vraag: watter van die ander 2n - 1 weergawes het van dieselfde foto gekom?Presies een het.

  1. Kodering elke view as 'n kort vektor z, en skaal elke z na lengte 1.
  2. Oorelikheid van twee weue = hul dot product (die kosinus), gedeel deur 'n temperatuur (0.2 hier): lae temperature maak die punte skerper.
  3. A se aansig mag nie homself kies nie: sy eie telling word gestel op minus oneindig.
  4. Cross-entropy, met die regte antwoord as die maat: sien i se maat is i + n (en die ander kant rondom).

Kyk na die toneel: ses foto's, twee weergawes elk, die rooster van ooreenkomste, en elke ry se keuse.

Klein getalle

Twee foto's, so vier weergawes. As weergave 0 se ooreenkomste met weergawes 1, 2, 3 is 0.1, 0.9, 0.2 (sy maat is weergave 2), gedeel deur 0.2 word hulle 0.5, 4.5, 1.0. Softmax gee die maat 0.954, en weergave 0 se loss is -log 0.954 = 0.047.

Woorde en simbole in hierdie les
view
a willeke veranderde kopie van 'n prent: gesny, omgedraai, helderder, minder kleurryk
InfoNCE
cross-entropy op 'n vraag wat die batch self stel: watter ander aansig het uit dieselfde prentjie gekom?
temperature
watter ooreenkomste word gedeel voor die softmax; kleiner maak die keuse skerper
SimCLR
self-gesuperviseerde opleiding met twee weergawes van elke prent en InfoNCE (Chen et al. 2020)
Jou beurt

Skryf info_nce(z, temperature) in eenvoudige NumPy vir z met vorm (2n, d), wat die gemiddelde verlies oor al 2n rye teruggee. Bereken dan example: die verlies vir die vier-view batch in die starter.

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.