Kurrikulum Leson 42 van 246 · Module 3: Neuron na MLP
Module 3: Neuron na MLP

Produktiewe mislukking: XOR met een neuron

Waarom dit saak maak Om doelbewus hier te faal leer jou, beter as enige verduideliking, waarom netwerke meer as een laag nodig het.

XOR ("exclusive or") is 1 wanneer presies een van twee insets 1 is. Vier punte: (0,0) is 0, (0,1) is 1, (1,0) is 1, (1,1) is 0. Jou taak: laat jou logistiese neuron van die vorige les al vier reg kry. Probeer enige learning rate, enige aantal steps en enige seed.

Die neuron hier begin met willekeurige wegte. Dit maak saak: as dit vanaf alle nulle begin, is die gradiënt op XOR presies 0 weens simmetrie (die vier punte trek gelyk in tegstrake rigtings), so dit sou glad nie beweeg nie. Dit is 'n ander fout as die een waaroor hierdie les handel, so ons sluit dit uit.

Neem 'n paar minute en probeer regtig hard voordat jy die wenk lees. Om eers te sukkel is die doel: navorsing oor leer toon dat mense wat 'n probleem probeer oplos voordat hulle die idee geleer het, dit beter verstaan daarna.

Woorde en simbole in hierdie les
neuron
w . x + b, dan 'n aktivering
gewigte (w, W), bias (b)
die nommers wat 'n neuron leer; die bias skuif sy uitset
sigmoid
1 / (1 + exp(-z)): druk enige getal in 0 tot 1
leerkoers (lr)
hoe groot elke opleidingsstap is
Jou beurt

Gebruik train_logistic(X, y, lr, steps, seed) op XOR met ten minste drie verskillende instellings, en sit elke resultaat se akkuraatheid in my_attempts. Stel dan reason in op die letter van die ware verduideliking:

A: dit het meer stappe nodig. B: 'n enkele neuron kan die vlak net met een reguit lyn skei, en geen reguit lyn skei XOR nie. C: die learning rate is verkeerd. D: vier punte is te min om by te leer.

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.