Программа курса Урок 43 из 246 · Модуль 3: От нейрона к MLP
Модуль 3: От нейрона к MLP

Скрытый слой решает XOR

Почему это важно Это момент, когда глубина себя оправдывает: два нейрона в среднем слое изгибают пространство так, что одна прямая может закончить работу.

Посмотрите

Запустите анимацию. Каждый из двух скрытых нейронов проводит свою прямую. Нейрон 1 срабатывает при "хотя бы один вход равен 1" (OR). Нейрон 2 срабатывает при "оба равны 1" (AND). В терминах этих двух новых признаков XOR - это просто "OR, но не AND": выходной нейрон вычисляет h1 минус h2.

Маленькие числа

Используйте ступенчатую активацию (1, если сумма больше 0, иначе 0). h1 = step(x1 + x2 - 0,5) - это OR. h2 = step(x1 + x2 - 1,5) - это AND. Выход = step(h1 - h2 - 0,5). Проверьте (1,1): h1 = 1, h2 = 1, выход step(-0,5) = 0. Верно.

Скрытый слой: слой между входом и выходом, нейроны которого строят новые признаки, которыми может воспользоваться следующий слой.

Итоги Каждый слой заново описывает данные, чтобы работа следующего слоя была легче.

Слова и символы этого урока
нейрон
w . x + b, затем активация
веса (w, W), смещение (b)
числа, которые учит нейрон; смещение сдвигает его выход
скрытый слой
слой между входом и выходом, который строит новые признаки
Твоя очередь

Задайте веса W1 (2 на 2), b1 (2), w2 (2) и b2 двухслойной сети со ступенчатыми активациями так, чтобы forward(X) правильно отвечала на все четыре точки XOR. Используйте свои числа или те, что выше.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Это упражнение откроется скоро

Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.