पाठ्यक्रम 246 में से पाठ 193 · Module 18: बिना labels के सीखना
Module 18: बिना labels के सीखना

उन तस्वीरों को छाँटना जिन पर किसी ने label नहीं लगाया

यह क्यों मायने रखता है Labels महँगे हैं: किसी को हर तस्वीर देखनी पड़ती है। बिना labels की तस्वीरें लगभग मुफ़्त हैं। अगर एक network अकेले बिना label वाली तस्वीरों से काम के features सीख सके, तो हर model हज़ारों के बजाय लाखों उदाहरणों से शुरू हो सकता। यह self-supervised learning है, और आज के बड़े models ऐसे ही pretrain होते हैं।

इस module की तस्वीरें छह तरह के objects (ball, box, ring, tent, cross, moon) की बिखरे दृश्यों में छोटी 16 x 16 तस्वीरें हैं: बेतरतीब पृष्ठभूमि, किसी भी ओर से रोशनी, परछाइयाँ, आगे की चीज़ें, धुंधलापन और sensor शोर। वे बनाई गई हैं, download नहीं, और असली तस्वीरों जैसा बर्ताव करने के लिए बनी हैं: कोर्स ने तीन आँकड़े मापे जो हर प्राकृतिक तस्वीर साझा करती है (पैमाने के साथ विवरण कैसे घटता है, किनारे कितने विरल हैं, पड़ोसी pixels कितने एक जैसे हैं), और ये तस्वीरें तीनों पर असली तस्वीर crops की range के अंदर बैठती हैं। photos.stats(X) उन्हें print करता है।

features के किसी भी set की एक जल्दी की परख: हर तस्वीर के लिए, उन features से उसके 5 सबसे क़रीबी पड़ोसी ढूँढें और गिनें कि कितने उसी तरह का object दिखाते हैं। बेतरतीब अनुमान 6 में 1 पाता है।

तीन तरह के features:

  • कच्चे pixels;
  • बेतरतीब weights वाला एक CNN, कभी train नहीं हुआ;
  • 4000 तस्वीरों पर SimCLR pretraining के बाद वही CNN, बिल्कुल बिना labels के (कोर्स ने इसे एक बार train किया; आप पाठ 5 में देखेंगे कैसे)।

पहले अनुमान लगाएँ: कौन-सा एक ही object की तस्वीरों को सबसे क़रीब रखता है?

इस पाठ के शब्द और चिह्न
self-supervised learning
बिना labels के डेटा से features सीखना, एक ऐसे काम से जो डेटा ख़ुद तय करता है
SimCLR
हर तस्वीर के दो views और InfoNCE के साथ self-supervised training (Chen et al. 2020)
आपकी बारी

my_guess को "raw", "random" या "simclr" पर सेट करें। agreement(F, labels, k) लिखें: हर feature को standardise करें, हर row को लंबाई 1 तक scale करें, और k सबसे क़रीबी पड़ोसियों (cosine समानता से, एक तस्वीर अपनी पड़ोसी नहीं) का वह हिस्सा लौटाएँ जिनका label वही है। तीनों तरह के features के लिए scores भरें।

इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें

यह अभ्यास जल्द खुलेगा

इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।