Lehrplan Lektion 144 von 250 · Embeddings & Semantische Suche von Grund auf
Embeddings & Semantische Suche von Grund auf

Kosinus-Ähnlichkeit in numpy

Jetzt, wo Dokumente Vektoren sind, wie misst du, ob zwei davon "ähnlich" sind? Der Instinkt ist die Euklidische Distanz (Geradlinienabstand), aber für Text ist das eine Falle. Ein langes Dokument wiederholt Wörter, also ist sein bigger einfach größer, und die Euklidische Distanz bestraft es für die Länge, selbst wenn das Thema identisch ist. Was dich eigentlich interessiert ist direction: welche Wörter, in welchem Verhältnis. Das ist es, was cosine similarity misst.

Die Cosine-Ähnlichkeit ist der Kosinus des Winkels zwischen zwei Vektoren:

cosine(a, b) = (a . b) / (|a| * |b|)

, wobei a . b das Skalarprodukt und |a| die Länge (die L2-Norm) von a ist. Der Wert landet in einem sauberen Bereich:

  • 1.0 -> gleiche Richtung (ein Dokument und eine vergrößerte Kopie von sich selbst).
  • 0.0 -> orthogonal, keine gemeinsame Richtung (keine gemeinsamen Wörter).
  • Werte dazwischen -> partielle Überschneidung.

Weil es die Längen herausrechnet, behandelt cosine [1, 1] und [10, 10] als identisch. Diese Längeninvarianz ist genau der Grund, warum jedes Embedding und RAG System nach cosine und nicht nach der euklidischen Distanz sortiert.

In numpy ist das Ganze drei Aufrufe:

import numpy as np
a = np.array([1, 2, 3], dtype=float)
b = np.array([2, 4, 6], dtype=float)
np.dot(a, b) / (np.linalg.norm(a) * np.linalg.norm(b))   # -> 1.0

Ein Edge Case wird dich in der Produktion beißen: der zero vector (ein Dokument ohne Vokabelwörter) hat die Länge 0, und die Division durch 0 ergibt NaN, was dann jede nachfolgende Sortierung vergiftet. Eine robuste Ähnlichkeit gibt 0.0 zurück, wenn einer der Vektoren nur aus Nullen besteht.

Build cosine(a, b), die die cosine similarity als float zurückgibt und 0.0 (niemals NaN) zurückgibt, wenn eine der Eingaben der Nullvektor ist. Eingaben können Python lists oder numpy arrays sein.

Du bist dran

Schreibe cosine(a, b), das die Cosinus-Ähnlichkeit von zwei Vektoren zurückgibt: das Skalarprodukt geteilt durch das Produkt ihrer L2-Normen. Akzeptiere Python lists oder numpy arrays und gib einen float zurück. Parallele Vektoren geben 1.0 zurück, orthogonale Vektoren geben 0.0 zurück, und die Funktion ist symmetrisch. Wenn einer der Vektoren nur aus Nullen besteht, gib 0.0 zurück, anstatt durch Null zu teilen und NaN zu erzeugen.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.