Скрытый слой решает XOR
Почему это важно Это момент, когда глубина себя оправдывает: два нейрона в среднем слое изгибают пространство так, что одна прямая может закончить работу.
Посмотрите
Запустите анимацию. Каждый из двух скрытых нейронов проводит свою прямую. Нейрон 1 срабатывает при "хотя бы один вход равен 1" (OR). Нейрон 2 срабатывает при "оба равны 1" (AND). В терминах этих двух новых признаков XOR - это просто "OR, но не AND": выходной нейрон вычисляет h1 минус h2.
Маленькие числа
Используйте ступенчатую активацию (1, если сумма больше 0, иначе 0). h1 = step(x1 + x2 - 0,5) - это OR. h2 = step(x1 + x2 - 1,5) - это AND. Выход = step(h1 - h2 - 0,5). Проверьте (1,1): h1 = 1, h2 = 1, выход step(-0,5) = 0. Верно.
Скрытый слой: слой между входом и выходом, нейроны которого строят новые признаки, которыми может воспользоваться следующий слой.
Итоги Каждый слой заново описывает данные, чтобы работа следующего слоя была легче.
Слова и символы этого урока
- нейрон
- w . x + b, затем активация
- веса (w, W), смещение (b)
- числа, которые учит нейрон; смещение сдвигает его выход
- скрытый слой
- слой между входом и выходом, который строит новые признаки
Задайте веса W1 (2 на 2), b1 (2), w2 (2) и b2 двухслойной сети со ступенчатыми активациями так, чтобы forward(X) правильно отвечала на все четыре точки XOR. Используйте свои числа или те, что выше.
Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке
Это упражнение откроется скоро
Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.
Этот браузер блокирует cookies для learn.floati.life, поэтому завершенные здесь уроки не могут открыться по порядку. Разрешите cookies для этого сайта и перезагрузите страницу.