Lehrplan Lektion 156 von 250 · Baue eine RAG Pipeline
Baue eine RAG Pipeline

Ein kleiner Vector Store

Sobald ein Dokument in Chunks unterteilt und jeder Chunk in einen Vektor umgewandelt wurde, brauchst du einen Ort, um diese Vektoren zu speichern und eine Möglichkeit zu fragen: "Welche gespeicherten Vektoren ähneln dieser Abfrage am meisten?" Das ist ein vector store. Pinecone, Chroma, FAISS und pgvector sind Produktionsversionen dieser Idee, aber der Kern ist klein genug, um ihn von Hand zu bauen. Ihn einmal zu bauen bedeutet, dass du verstehst, was diese Dienste tatsächlich tun.

Die Retrieval-Metrik ist cosine similarity: der Kosinus des Winkels zwischen zwei Vektoren, a . b / (|a| |b|). Sie belohnt Vektoren, die in die gleiche Richtung zeigen, und ignoriert ihre Länge. Das ist das, was du für Text willst, wo ein langer und ein kurzer Abschnitt über dasselbe Thema sein können. Ein Wert nahe 1 bedeutet "sehr ähnliche Richtung"; nahe 0 bedeutet "nicht verwandt".

Du wirst eine class bauen, damit der store zwischen Aufrufen ein Gedächtnis hat. Das Gate, das diese Lektionen schützt, stubbt keine class methods, also ist der Schutz hier, dass dein search die correct nearest-neighbour order für mehrere verschiedene Abfragen zurückgeben muss: nur echte Cosinus-Mathematik bekommt alle richtig.

import numpy as np

class VectorStore:
    def __init__(self):
        self.ids = []
        self.vectors = []

    def add(self, id, text, vector):
        self.ids.append(id)
        self.vectors.append(np.asarray(vector, dtype=float))

    def search(self, query_vec, k):
        q = np.asarray(query_vec, dtype=float)
        scored = []
        for vec_id, v in zip(self.ids, self.vectors):
            denom = np.linalg.norm(q) * np.linalg.norm(v)
            sim = float(q @ v / denom) if denom else 0.0
            scored.append((vec_id, sim))
        scored.sort(key=lambda pair: pair[1], reverse=True)
        return scored[:k]

Was zu bauen ist. Implementiere class VectorStore mit:

  • add(id, text, vector) speichere die id, den text und den vektor (speichere den vektor als numpy array von floats).
  • __len__ also len(store) gibt zurück, wie viele Elemente gespeichert sind.
  • an ids Attribut (eine Liste), damit Aufrufer sehen können, was hinzugefügt wurde.
  • search(query_vec, k) gibt die top-k nächsten Nachbarn als eine Liste von (id, similarity) Tupeln zurück, sortiert nach abnehmender Ähnlichkeit, die Länge ist auf k begrenzt.

Verwende numpy.argsort oder eine einfache Sortierung auf den scores. Drücke Run, um einige beschriftete vektoren hinzuzufügen und zu sehen, welche eine abfrage zuerst zurückgibt.

Du bist dran

Implementiere class VectorStore mit add(id, text, vector) (speichere id, text und den Vektor als numpy float array), __len__ gibt die Anzahl der Elemente zurück, eine öffentliche ids list und search(query_vec, k) gibt die top-k (id, similarity) tuples nach Cosine Similarity zurück, am höchsten zuerst, begrenzt auf k. Ein Nullvektor muss 0.0 erzielen und darf nicht abstürzen.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.