아무도 레이블을 붙이지 않은 사진 분류하기
왜 중요한가 레이블은 비싸요: 누군가 모든 그림을 봐야 해요. 레이블 없는 그림은 거의 공짜예요. 신경망이 레이블 없는 그림만으로 쓸모 있는 특성을 배울 수 있다면, 모든 모델이 예시 수천 개가 아니라 수백만 개에서 시작할 수 있어요. 그게 자기 지도 학습이고, 오늘날의 큰 모델이 사전 훈련되는 방식이에요.
이 모듈의 그림은 어수선한 장면 속 여섯 종류의 물체(공, 상자, 고리, 텐트, 십자, 달)를 찍은 작은 16 x 16 사진이에요: 무작위 배경, 어느 쪽에서든 오는 빛, 그림자, 앞을 가리는 것, 흐림, 센서 잡음. 내려받은 게 아니라 생성한 것이고, 진짜 사진처럼 행동하도록 만들었어요: 강좌는 모든 자연 사진이 공유하는 통계 셋(척도에 따라 세밀함이 어떻게 줄어드는지, 경계가 얼마나 드문지, 이웃한 픽셀이 얼마나 비슷한지)을 쟀고, 이 사진들은 셋 모두에서 진짜 사진 조각의 범위 안에 있어요. photos.stats(X)가 그걸 출력해요.
어떤 특성 묶음이든 빠르게 시험하는 법: 각 사진에 대해 그 특성으로 가장 가까운 이웃 5개를 찾고 몇 개가 같은 종류의 물체를 보여 주는지 세세요. 무작위 추측은 6개 중 1개를 얻어요.
특성 세 종류:
- 날 픽셀,
- 무작위 가중치의, 한 번도 훈련하지 않은 CNN,
- 사진 4000장에서 레이블 전혀 없이 SimCLR 사전 훈련한 뒤의 같은 CNN(강좌가 한 번 훈련했어요. 레슨 5에서 어떻게인지 봐요).
먼저 예측하세요: 어느 것이 같은 물체의 사진들을 가장 가깝게 둘까요?
이 레슨의 단어와 기호
- 자기 지도 학습
- 데이터가 스스로 정하는 과제로, 레이블 없는 데이터에서 특성을 배우기
- SimCLR
- 각 그림의 뷰 둘과 InfoNCE로 하는 자기 지도 훈련(Chen et al. 2020)
my_guess를 "raw", "random", "simclr" 중 하나로 설정하세요. agreement(F, labels, k)를 쓰세요: 각 특성을 표준화하고, 각 행을 길이 1로 맞추고, 가장 가까운 이웃 k개(코사인 유사도로. 사진은 자기 자신의 이웃이 아니에요) 중 같은 레이블인 비율을 반환하세요. 세 종류의 특성에 대해 scores를 채우세요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.