シラバス レッスン 250 中 99 · ニューラルネットの直感、LLM と AI キャップストーン
ニューラルネットの直感、LLM と AI キャップストーン

ゼロから作るニューロン

ディープラーニングはすべて、ひとつの小さな部品からできています。人工ニューロン です。それは次の 3 つのことを順に行います。

  • 重み付きの和。 各入力にそれぞれの重みを掛けて足し合わせます。重みは、その入力がどれだけ重要かを表します。
  • バイアスを足す。 結果を上下にずらすひとつの数で、切片のようなものです。
  • 活性化。 結果を非線形な関数に通して押しつぶし、ニューロンが直線以上のものを表せるようにします。

古典的な活性化関数は シグモイド で、どんな数も 0 と 1 の間の値に対応づけます(確率に便利です):

sigmoid(z) = 1 / (1 + e^(-z))

いくつかの目印:sigmoid(0) はちょうど 0.5、大きな正の入力は 1 に近づき、大きな負の入力は 0 に近づきます。まとめると、ニューロンはただこれだけです:

import numpy as np

def neuron(x, w, b):
    z = np.dot(x, w) + b      # weighted sum + bias
    return 1 / (1 + np.exp(-z))  # sigmoid activation

np.dot(x, w) は入力ベクトル全体の掛け算と足し算を一度に行います。考え方はこれで全部です。これを何千個も積み重ねて重みを学習させれば、ニューラルネットワークになります。

あなたの番

numpy を使って neuron(x, w, b) を実装してください。重み付きの和 np.dot(x, w) を計算し、バイアス b を足し、そのシグモイドを返します。次に、与えられた x、w、b について out = neuron(x, w, b) とします。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。