Lehrplan Lektion 203 von 250 · Feinabstimmung, konzeptionell
Feinabstimmung, konzeptionell

Deterministische Train/Val-Aufteilung

Sobald dein Datensatz sauber ist, musst du ihn aufteilen: die meisten Zeilen gehen zu train (woraus das Modell lernt) und ein zurückbehaltener Teil geht zu validation (woran du es bewertest). Der zurückbehaltene Satz ist heilig. Wenn ein Beispiel in beide Hälften gelangt, ist deine Validierungszahl eine Lüge, weil das Modell an etwas getestet wurde, an dem es trainiert hat. Also muss die Aufteilung eine saubere Partition sein: keine Überschneidung, nichts verloren.

Es muss auch reproduzierbar sein. "Es erreichte 0.81" ist bedeutungslos, wenn das erneute Ausführen des Scripts die Daten in einen anderen Split mischt und 0.79 liefert. Die Lösung ist dieselbe, die du überall verwendest, wo Zufälligkeit in ML auftaucht: den Generator mit einem seed setzen. Der gleiche seed erzeugt immer den gleichen Split, also ist dein Experiment wiederholbar und ein Teammitglied kann deine exakten Zahlen reproduzieren.

Hinweis: Wir mischen indices, nicht die Zeilen selbst, und wir übergeben einen expliziten seed an einen privaten generator anstatt den globalen zu nutzen:

import random

def split_dataset(rows, val_frac, seed):
    indices = list(range(len(rows)))
    rng = random.Random(seed)   # a private RNG, does not disturb global state
    rng.shuffle(indices)
    n_val = int(round(len(rows) * val_frac))
    ...

Verwende random.Random(seed) (einen neuen, isolierten Generator), nicht random.seed(...) im globalen Modul, damit das Aufrufen deiner Funktion die Zufälligkeit an anderer Stelle in einem Programm nicht stillschweigend verändert.

Baue split_dataset(rows, val_frac, seed), das {"train": [...], "val": [...]} zurückgibt, wo:

  • die Validierungsgröße ist int(round(len(rows) * val_frac)), und train ist der Rest;
  • train und val sind disjoint und enthalten zusammen jede ursprüngliche Zeile genau einmal;
  • der GLEICHE seed liefert immer den GLEICHEN split, und ein anderer seed liefert generell einen anderen.

Diese deterministische Vorbereitung ist alles, worauf der GPU-Lauf basiert. Das eigentliche Training (LoRA adapters, ein optimizer, eine loss curve) findet auf Hardware statt, die diese Sandbox nicht hat. Drücke Run, um eine list zu teilen und zu bestätigen, dass die zwei Hälften das Ganze rekonstruieren.

Du bist dran

Schreibe split_dataset(rows, val_frac, seed), das {"train": [...], "val": [...]} zurückgibt. Mische eine Liste von Indizes mit random.Random(seed) (nicht den globalen RNG), nimm die ersten int(round(len(rows) * val_frac)) als Validierung und den Rest als Training. Die zwei Hälften müssen disjunkt sein, müssen zusammen jede ursprüngliche Zeile genau einmal enthalten und müssen für einen gegebenen Seed reproduzierbar sein.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.