Programma Les 203 van 250 · Fine-Tuning, Conceptueel
Fine-Tuning, Conceptueel

Deterministische Train/Val Split

Zodraagt je dataset schoon moet je deze splitsen: de meeste rijen gaan naar train (waar het model van leert) en een apart deel gaat naar validation (waar je het op beoordeelt). De aparte set is heilig. Als een voorbeeld in beide helften lekt is je validatietal een leugen omdat het model werd getest op iets waar het op getraind is. De splits moet dus een schone verdeling zijn: geen overlap en niets verloren.

Het moet ook reproduceerbaar zijn. "Het scoorde 0.81" is zinloos als het opnieuw uitvoeren van het script de data opnieuw husselt naar een andere split en 0.79 geeft. De oplossing is dezelfde die je overal gebruikt waar willekeur in ML voorkomt: seed de generator. Dezelfde seed produceert altijd dezelfde split, dus je experiment is herhaalbaar en een teamgenoot kan je exacte getallen reproduceren.

Let op dat we indices doorhusselen, niet de rijen zelf, en dat we een expliciete seed doorgeven aan een private generator in plaats van de globale aan te raken:

import random

def split_dataset(rows, val_frac, seed):
    indices = list(range(len(rows)))
    rng = random.Random(seed)   # a private RNG, does not disturb global state
    rng.shuffle(indices)
    n_val = int(round(len(rows) * val_frac))
    ...

Gebruik random.Random(seed) (een nieuwe, geïsoleerde generator), niet random.seed(...) op het globale module, zodat het aanroepen van je functie de willekeur elders in een programma niet onopgemerkt verandert.

Bouw split_dataset(rows, val_frac, seed) dat {"train": [...], "val": [...]} retourneert waar:

  • de validatiesize is int(round(len(rows) * val_frac)), en train is de rest;
  • train en val zijn disjoint en bevatten samen elke originele rij precies één keer;
  • de ZAMERE seed geeft altijd dezelfde splitsing, en een andere seed geeft over het algemeen een andere splitsing.

Deze deterministische voorbereiding is alles waar de GPU run van afhangt. De eigenlijke training (LoRA adapters, een optimizer, een loss curve) gebeurt op hardware die deze sandbox niet heeft. Druk op Run om een lijst te splitsen en te bevestigen dat de twee helften het geheel reconstrueren.

Jij bent aan de beurt

Schrijf split_dataset(rows, val_frac, seed) dat {"train": [...], "val": [...]} retourneert. Shuffle een lijst van indices met random.Random(seed) (niet de globale RNG), neem de eerste int(round(len(rows) * val_frac)) als validatie en de rest als train. De twee helften moeten elkaar uitsluiten, samen elke originele rij precies één keer moeten bevatten en moeten reproduceerbaar zijn voor een gegeven seed.

Een probleem ontdekt in deze les? Meld het · Vraag naar deze les

Deze oefening opent binnenkort

Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.