Un layer nascosto risolve XOR
Perché è importante È il momento in cui la profondità si guadagna il posto: due neuroni in un layer centrale piegano lo spazio così una linea può finire il lavoro.
Guardalo
Avvia l'animazione. Due neuroni nascosti tracciano ciascuno la propria linea. Il neurone 1 si attiva per "almeno un input vale 1" (un OR). Il neurone 2 si attiva per "entrambi valgono 1" (un AND). In termini di queste due nuove caratteristiche, XOR è solo "OR ma non AND": il neurone di output calcola h1 meno h2.
Numeri piccolissimi
Usa un'attivazione a gradino (1 se il totale è sopra 0, altrimenti 0). h1 = step(x1 + x2 - 0.5) è OR. h2 = step(x1 + x2 - 1.5) è AND. Output = step(h1 - h2 - 0.5). Verifica (1,1): h1 = 1, h2 = 1, output step(-0.5) = 0. Giusto.
Layer nascosto: un layer tra input e output i cui neuroni costruiscono nuove caratteristiche che il layer successivo può usare.
Riepilogo Ogni layer descrive di nuovo i dati così il compito del layer successivo è più facile.
Parole e simboli di questa lezione
- neurone
- w . x + b, poi un'attivazione
- pesi (w, W), bias (b)
- i numeri che un neurone impara; il bias sposta il suo output
- layer nascosto
- un layer tra input e output che costruisce nuove caratteristiche
Imposta i pesi W1 (2 per 2), b1 (2), w2 (2) e b2 di una rete a due layer con attivazioni a gradino in modo che forward(X) azzecchi tutti e quattro i punti di XOR. Usa numeri tuoi o quelli qui sopra.
Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione
Questo esercizio si apre presto
Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.
Questo browser blocca i cookie per learn.floati.life, quindi le lezioni che hai finito qui non si possono aprire in ordine. Consenti i cookie per questo sito e ricarica.