Mengurutkan foto yang tidak ada labelnya
Kenapa ini penting Label itu mahal: seseorang harus melihat setiap gambar. Gambar tanpa label hampir gratis. Jika sebuah network bisa mempelajari fitur berguna dari gambar tanpa label saja, setiap model bisa mulai dari jutaan contoh alih-alih ribuan. Itu adalah self-supervised learning, dan begitulah model besar saat ini dilatih sebelumnya.
Gambar di modul ini adalah foto kecil 16 x 16 dari enam jenis objek (ball, box, ring, tent, cross, moon) dalam pemandangan yang berantakan: latar belakang acak, cahaya dari sisi mana saja, bayangan, benda di depan, blur dan sensor noise. Gambar ini dibuat, bukan diunduh, dan dirancang untuk berperilaku seperti foto asli: kursus ini mengukur tiga statistik yang dimiliki setiap foto alami (bagaimana detail berkurang dengan skala, seberapa jarang tepiannya, seberapa mirip piksel tetangga), dan foto ini berada di dalam rentang potongan foto asli pada ketiga statistik tersebut. photos.stats(X) mencetaknya.
tes cepat untuk set fitur apa pun: untuk setiap foto, cari 5 tetangga terdekatnya berdasarkan fitur tersebut dan hitung berapa banyak yang menunjukkan jenis objek yang sama. Tebakan acak mendapatkan 1 dari 6.
Tiga jenis fitur:
- piksel mentah;
- a CNN dengan bobot acak, tidak pernah dilatih;
- CNN yang sama setelah SimCLR pretraining pada 4000 foto, dengan tanpa label sama sekali (kursus ini melatihnya sekali; kamu akan melihat caranya di pelajaran 5).
Prediksi dulu: mana yang menempatkan foto objek yang sama paling berdekatan?
Kata dan simbol di pelajaran ini
- pembelajaran mandiri
- belajar fitur dari data tanpa label, dengan tugas data mengatur dirinya sendiri
- SimCLR
- pelatihan self-supervised dengan dua tampilan dari setiap gambar dan InfoNCE (Chen et al. 2020)
Atur my_guess ke "raw", "random" atau "simclr". Tulis agreement(F, labels, k): standarisasi setiap fitur, skala setiap baris ke panjang 1, dan kembalikan bagian dari k tetangga terdekat (dengan cosine similarity, sebuah foto bukan tetangga bagi dirinya sendiri) yang memiliki label yang sama. Isi scores untuk tiga jenis fitur.
Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini
Latihan ini akan segera dibuka
Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.
Browser ini memblokir cookie untuk learn.floati.life, jadi pelajaran yang sudah kamu selesaikan di sini tidak bisa dibuka berurutan. Izinkan cookie untuk situs ini dan muat ulang.