Programme Leçon 99 sur 250 · L'intuition des réseaux de neurones, les LLM et le projet final IA
L'intuition des réseaux de neurones, les LLM et le projet final IA

Un neurone à partir de zéro

Tout le deep learning est construit à partir d'une toute petite pièce : le neurone artificiel. Il fait trois choses, dans l'ordre.

  • Somme pondérée. Multiplie chaque entrée par son propre poids et additionne le tout. Un poids dit à quel point cette entrée compte.
  • Ajouter un biais. Un seul nombre qui décale le résultat vers le haut ou le bas, comme une ordonnée à l'origine.
  • Activation. Écrase le résultat à travers une fonction non linéaire pour que le neurone puisse exprimer plus qu'une droite.

Une activation classique est la sigmoïde, qui envoie n'importe quel nombre vers une valeur entre 0 et 1 (pratique pour des probabilités) :

sigmoid(z) = 1 / (1 + e^(-z))

Quelques repères : sigmoid(0) vaut exactement 0.5, les grandes entrées positives s'approchent de 1, et les grandes entrées négatives de 0. Mets tout ensemble et un neurone, c'est juste :

import numpy as np

def neuron(x, w, b):
    z = np.dot(x, w) + b      # weighted sum + bias
    return 1 / (1 + np.exp(-z))  # sigmoid activation

np.dot(x, w) fait la multiplication-addition pour tout le vecteur d'entrée d'un coup. C'est toute l'idée. Empile-en des milliers, entraîne les poids, et tu as un réseau de neurones.

À ton tour

Code neuron(x, w, b) avec numpy. Calcule la somme pondérée np.dot(x, w), ajoute le biais b, puis renvoie la sigmoïde du tout. Puis écris out = neuron(x, w, b) pour les x, w et b fournis.

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.