Silabus Pelajaran 167 dari 246 · Modul 15: Squeeze, rebuild, generate (autoencoders dan VAEs)
Modul 15: Squeeze, rebuild, generate (autoencoders dan VAEs)

Tekan dan bangun kembali (autoencoders)

Kenapa ini penting Selama ini setiap jaringan mengubah gambar menjadi label. Modul ini mengubah gambar menjadi gambar baru. Langkah pertama adalah jaringan yang mengecilkan gambar menjadi beberapa angka dan membangunnya kembali dari angka tersebut. Beberapa angka itulah tempat gambar baru akan muncul.

An autoencoder adalah dua jaringan yang disusun berurutan. encoder mengecilkan angka 64-piksel menjadi 16 angka, yang merupakan code. decoder membangun kembali 64 piksel dari 16 angka tersebut. Pelatihan meminta satu hal: gambar yang dibangun kembali harus cocok dengan aslinya.

Tidak ada yang memberi tahu apa arti dari 16 angka tersebut. Ia harus menemukan deskripsi singkat dari sebuah digit sendirian, karena 16 angka tidak bisa sekadar menyalin 64 piksel.

Angka kecil

A digit 64-pixel menjadi 16 angka: penyusutan 4 ke 1. Jika pixel yang dibangun meleset 0.09 rata-rata, error kuadrat per pixel sekitar 0.008. Itu adalah ukuran error yang akan kamu capai.

Cara mengukur loss

Setiap piksel adalah angka dari 0 (kosong) sampai 1 (tinta penuh), jadi lapisan terakhir decoder memberikan satu skor per piksel dan sigmoid mengubahnya menjadi 0..1. Loss adalah binary cross-entropy dari Module 3, dijumlahkan dari 64 piksel dan dirata-ratakan dalam batch. Mesin utama sekarang memilikinya sebagai E.bce_with_logits(scores, pictures): ia mengambil skor sebelum sigmoid, jadi ia tidak pernah mengambil log dari 0.

Output juga mencetak gambar sebagai teks: gen.show(pictures)mencetak setiap digit 8x8 dalam gradasi dari kosong sampai tinta penuh.

Kata dan simbol di pelajaran ini
autoencoder
an encoder yang mengecilkan gambar menjadi beberapa angka dan decoder yang membangunnya kembali
kode (latent)
beberapa angka yang dibuat encoder dari satu gambar
mu, logvar
pusat dan log dari kuadrat penyebaran sebuah kode angka dalam sebuah VAE
Giliranku

Tulis encode(x): sebuah dense layer dengan ReLU (P['e1']), lalu dense layer ke 16 angka (P['e2']). Tulis decode(code) dengan cara yang sama dengan P['d1'], ReLU dan P['d2'], mengembalikan 64 skor sebelum sigmoid. Loop pelatihan sudah ditulis untukmu. Capai error rebuild tes di bawah 0.012 per piksel.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.