シラバス レッスン 246 中 41 · モジュール 3:ニューロンから MLP へ
モジュール 3:ニューロンから MLP へ

はいかいいえの答え(ロジスティック回帰)

なぜ大切か ほとんどの仕事は数ではなく分類を求めます:迷惑メールかどうか、猫か犬か。ひとつのニューロンと押し込む関数が、はいかいいえを確率で答えます。

見てみる

sigmoid はどんな数も 0 から 1 の範囲に押し込みます:sigmoid(z) = 1 / (1 + exp(-z))。sigmoid(0) = 0.5、sigmoid(3) は約 0.95、sigmoid(-3) は約 0.05。出力を「答えがはいである確率」と読みます。

損失は、2 つのクラスでのモジュール 2 の交差エントロピーです:-mean(y log p + (1 - y) log(1 - p))。その勾配は美しく単純になります:grad_w = X.T @ (p - y) / n。また予測引く真の値です。

ロジスティック回帰:sigmoid を持つひとつのニューロンを、交差エントロピーで訓練したものです。2 つのクラスの間に直線の境界を引きます。

まとめ 点数を付け、確率に押し込み、(p - y) で訓練する。

このレッスンの言葉と記号
ニューロン
w . x + b、それから活性化
sigmoid
1 / (1 + exp(-z)):どんな数も 0 から 1 に押し込む
学習率 (lr)
訓練のそれぞれのステップの大きさ
あなたの番

sigmoid(z) と、ゼロから始めて (w, b) を返す train_logistic(X, y, lr, steps) を書いてください。それから accuracy(X, y, w, b):p > 0.5 がラベルと一致する点の割合。同じ 2 つのグループからの隠れた点で、少なくとも 90% に届いてください。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。