Programma Lezione 43 di 246 · Modulo 3: Dal neurone all'MLP
Modulo 3: Dal neurone all'MLP

Un layer nascosto risolve XOR

Perché è importante È il momento in cui la profondità si guadagna il posto: due neuroni in un layer centrale piegano lo spazio così una linea può finire il lavoro.

Guardalo

Avvia l'animazione. Due neuroni nascosti tracciano ciascuno la propria linea. Il neurone 1 si attiva per "almeno un input vale 1" (un OR). Il neurone 2 si attiva per "entrambi valgono 1" (un AND). In termini di queste due nuove caratteristiche, XOR è solo "OR ma non AND": il neurone di output calcola h1 meno h2.

Numeri piccolissimi

Usa un'attivazione a gradino (1 se il totale è sopra 0, altrimenti 0). h1 = step(x1 + x2 - 0.5) è OR. h2 = step(x1 + x2 - 1.5) è AND. Output = step(h1 - h2 - 0.5). Verifica (1,1): h1 = 1, h2 = 1, output step(-0.5) = 0. Giusto.

Layer nascosto: un layer tra input e output i cui neuroni costruiscono nuove caratteristiche che il layer successivo può usare.

Riepilogo Ogni layer descrive di nuovo i dati così il compito del layer successivo è più facile.

Parole e simboli di questa lezione
neurone
w . x + b, poi un'attivazione
pesi (w, W), bias (b)
i numeri che un neurone impara; il bias sposta il suo output
layer nascosto
un layer tra input e output che costruisce nuove caratteristiche
Tocca a te

Imposta i pesi W1 (2 per 2), b1 (2), w2 (2) e b2 di una rete a due layer con attivazioni a gradino in modo che forward(X) azzecchi tutti e quattro i punti di XOR. Usa numeri tuoi o quelli qui sopra.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.