Programme Leçon 140 sur 246 · Module 12 : Les mots comme nombres (embeddings)
Module 12 : Les mots comme nombres (embeddings)

Examen de passage : des vecteurs de mots pour un nouveau monde (IA éteinte)

Pourquoi c'est important Construire des vecteurs de mots à partir de phrases brutes, vérifier ce qu'ils ont appris, et retirer un biais qu'ils ont copié, seul, c'est ce module en une seule tâche.

Tuteur IA éteint. La vérification donne à tes fonctions un monde que tu n'as pas vu : de nouvelles phrases venant d'une autre graine, avec nurse et engineer biaisés vers she et he. Rien de ce monde n'est dans ton espace de noms.

Mots et symboles de cette leçon
fenêtre
combien de mots de chaque côté comptent comme la compagnie d'un mot
PPMI
combien plus souvent deux mots se rencontrent que le hasard ne le donnerait, avec les négatifs mis à 0
biais
un motif déséquilibré dans les données que les vecteurs copient
À ton tour

Écris word_vectors(sents, vocab) : compte les cooccurrences dans chaque phrase avec la fenêtre de ton choix WINDOW, et renvoie ppmi(counts), une ligne par mot de vocab. Écris debias(X, vocab) : renvoie une copie de X dans laquelle on a retiré la direction du genre des quatre métiers (nurse, engineer, doctor, teacher) (vecteurs unitaires, quatre paires, comme dans la leçon précédente), toutes les autres lignes inchangées. La vérification note les 72 analogies sur son propre monde (au moins 95 % justes) puis mesure la position de chaque métier sur la direction du genre après ton debias (toutes à moins de 0.05 de zéro).

IA désactivée : pas de tuteur, d'indices ou de solution détaillée pour celui-ci. Ta propre réflexion uniquement.

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.