Программа курса Урок 41 из 246 · Модуль 3: От нейрона к MLP
Модуль 3: От нейрона к MLP

Ответы да или нет (логистическая регрессия)

Почему это важно Большинство задач просят категорию, а не число: спам или нет, кошка или собака. Один нейрон плюс сжимающая функция отвечает да или нет с вероятностью.

Посмотрите

Сигмоида сжимает любое число в диапазон от 0 до 1: sigmoid(z) = 1 / (1 + exp(-z)). sigmoid(0) = 0,5, sigmoid(3) около 0,95, sigmoid(-3) около 0,05. Читайте выход как "вероятность того, что ответ - да".

Потери - перекрёстная энтропия из модуля 2 с двумя классами: -mean(y log p + (1 - y) log(1 - p)). Её градиент получается удивительно простым: grad_w = X.T @ (p - y) / n. Снова предсказание минус правда.

Логистическая регрессия: один нейрон с сигмоидой, обученный на перекрёстной энтропии. Он проводит прямолинейную границу между двумя классами.

Итоги Оценка, сжатие в вероятность, обучение на (p - y).

Слова и символы этого урока
нейрон
w . x + b, затем активация
сигмоида
1 / (1 + exp(-z)): сжимает любое число в диапазон от 0 до 1
скорость обучения (lr)
насколько велик каждый шаг обучения
Твоя очередь

Напишите sigmoid(z) и train_logistic(X, y, lr, steps), возвращающую (w, b), начиная с нулей. Затем accuracy(X, y, w, b): доля точек, где p > 0.5 совпадает с меткой. Достигните хотя бы 90% на скрытых точках из тех же двух групп.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Это упражнение откроется скоро

Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.