Programma Lezione 203 di 250 · Il fine-tuning, a livello concettuale
Il fine-tuning, a livello concettuale

Divisione train/val deterministica

Una volta pulito il dataset lo devi dividere: la maggior parte delle righe va in train (da cui il modello impara) e una fetta tenuta da parte va in validation (su cui lo valuti). L'insieme tenuto da parte è sacro. Se un esempio finisce in entrambe le metà, il tuo numero di validazione è una bugia, perché il modello è stato testato su qualcosa su cui si è addestrato. Quindi la divisione deve essere una partizione pulita: nessuna sovrapposizione, niente di perso.

Deve anche essere riproducibile. "Ha ottenuto 0.81" non significa niente se rieseguire lo script rimescola in una divisione diversa e dà 0.79. La soluzione è la stessa che usi ovunque compaia il caso nel ML: dai un seme al generatore. Lo stesso seme produce sempre la stessa divisione, quindi il tuo esperimento è ripetibile e un collega può riprodurre esattamente i tuoi numeri.

Nota che mescoliamo gli indici, non le righe stesse, e passiamo un seme esplicito a un generatore privato invece di toccare quello globale:

import random

def split_dataset(rows, val_frac, seed):
    indices = list(range(len(rows)))
    rng = random.Random(seed)   # a private RNG, does not disturb global state
    rng.shuffle(indices)
    n_val = int(round(len(rows) * val_frac))
    ...

Usa random.Random(seed) (un generatore nuovo e isolato), non random.seed(...) sul modulo globale, così chiamare la tua funzione non cambia in silenzio la casualità altrove in un programma.

Costruisci split_dataset(rows, val_frac, seed) che restituisce {"train": [...], "val": [...]} dove:

  • la dimensione di validazione è int(round(len(rows) * val_frac)), e train è il resto;
  • train e val sono disgiunti e insieme contengono ogni riga originale esattamente una volta;
  • lo STESSO seme dà sempre la STESSA divisione, e un seme diverso di solito ne dà una diversa.

Questa preparazione deterministica è tutto ciò da cui dipende l'esecuzione su GPU. L'addestramento vero e proprio (adattatori LoRA, un ottimizzatore, una curva di perdita) avviene su hardware che questa sandbox non ha. Premi Run per dividere una lista e confermare che le due metà ricostruiscono l'intero.

Tocca a te

Scrivi split_dataset(rows, val_frac, seed) che restituisce {"train": [...], "val": [...]}. Mescola una lista di indici con random.Random(seed) (non il generatore globale), prendi i primi int(round(len(rows) * val_frac)) come validazione e il resto come train. Le due metà devono essere disgiunte, devono contenere insieme ogni riga originale esattamente una volta, e devono essere riproducibili per un dato seme.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.