Ответы да или нет (логистическая регрессия)
Почему это важно Большинство задач просят категорию, а не число: спам или нет, кошка или собака. Один нейрон плюс сжимающая функция отвечает да или нет с вероятностью.
Посмотрите
Сигмоида сжимает любое число в диапазон от 0 до 1: sigmoid(z) = 1 / (1 + exp(-z)). sigmoid(0) = 0,5, sigmoid(3) около 0,95, sigmoid(-3) около 0,05. Читайте выход как "вероятность того, что ответ - да".
Потери - перекрёстная энтропия из модуля 2 с двумя классами: -mean(y log p + (1 - y) log(1 - p)). Её градиент получается удивительно простым: grad_w = X.T @ (p - y) / n. Снова предсказание минус правда.
Логистическая регрессия: один нейрон с сигмоидой, обученный на перекрёстной энтропии. Он проводит прямолинейную границу между двумя классами.
Итоги Оценка, сжатие в вероятность, обучение на (p - y).
Слова и символы этого урока
- нейрон
- w . x + b, затем активация
- сигмоида
- 1 / (1 + exp(-z)): сжимает любое число в диапазон от 0 до 1
- скорость обучения (lr)
- насколько велик каждый шаг обучения
Напишите sigmoid(z) и train_logistic(X, y, lr, steps), возвращающую (w, b), начиная с нулей. Затем accuracy(X, y, w, b): доля точек, где p > 0.5 совпадает с меткой. Достигните хотя бы 90% на скрытых точках из тех же двух групп.
Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке
Это упражнение откроется скоро
Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.
Этот браузер блокирует cookies для learn.floati.life, поэтому завершенные здесь уроки не могут открыться по порядку. Разрешите cookies для этого сайта и перезагрузите страницу.