Divisione train/val deterministica
Una volta pulito il dataset lo devi dividere: la maggior parte delle righe va in train (da cui il modello impara) e una fetta tenuta da parte va in validation (su cui lo valuti). L'insieme tenuto da parte è sacro. Se un esempio finisce in entrambe le metà, il tuo numero di validazione è una bugia, perché il modello è stato testato su qualcosa su cui si è addestrato. Quindi la divisione deve essere una partizione pulita: nessuna sovrapposizione, niente di perso.
Deve anche essere riproducibile. "Ha ottenuto 0.81" non significa niente se rieseguire lo script rimescola in una divisione diversa e dà 0.79. La soluzione è la stessa che usi ovunque compaia il caso nel ML: dai un seme al generatore. Lo stesso seme produce sempre la stessa divisione, quindi il tuo esperimento è ripetibile e un collega può riprodurre esattamente i tuoi numeri.
Nota che mescoliamo gli indici, non le righe stesse, e passiamo un seme esplicito a un generatore privato invece di toccare quello globale:
import random
def split_dataset(rows, val_frac, seed):
indices = list(range(len(rows)))
rng = random.Random(seed) # a private RNG, does not disturb global state
rng.shuffle(indices)
n_val = int(round(len(rows) * val_frac))
...Usa random.Random(seed) (un generatore nuovo e isolato), non random.seed(...) sul modulo globale, così chiamare la tua funzione non cambia in silenzio la casualità altrove in un programma.
Costruisci split_dataset(rows, val_frac, seed) che restituisce {"train": [...], "val": [...]} dove:
- la dimensione di validazione è
int(round(len(rows) * val_frac)), e train è il resto; - train e val sono disgiunti e insieme contengono ogni riga originale esattamente una volta;
- lo STESSO seme dà sempre la STESSA divisione, e un seme diverso di solito ne dà una diversa.
Questa preparazione deterministica è tutto ciò da cui dipende l'esecuzione su GPU. L'addestramento vero e proprio (adattatori LoRA, un ottimizzatore, una curva di perdita) avviene su hardware che questa sandbox non ha. Premi Run per dividere una lista e confermare che le due metà ricostruiscono l'intero.
Scrivi split_dataset(rows, val_frac, seed) che restituisce {"train": [...], "val": [...]}. Mescola una lista di indici con random.Random(seed) (non il generatore globale), prendi i primi int(round(len(rows) * val_frac)) come validazione e il resto come train. Le due metà devono essere disgiunte, devono contenere insieme ogni riga originale esattamente una volta, e devono essere riproducibili per un dato seme.
Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione
Questo esercizio si apre presto
Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.
Questo browser blocca i cookie per learn.floati.life, quindi le lezioni che hai finito qui non si possono aprire in ordine. Consenti i cookie per questo sito e ricarica.