Guarda: come il testo diventa numeri
Prima che un LLM possa fare qualsiasi cosa con il tuo prompt, deve trasformare il testo in numeri, perché una rete neurale fa calcoli solo sui numeri. Il passo che lo fa è la tokenizzazione.
Premi play. Guarda una singola parola venire divisa in token (pezzi frequenti di testo, spesso sottoparole, non parole intere), e guarda ogni token diventare un id intero preso dal vocabolario del modello. Da lì in poi, il modello non vede mai più lettere, solo una lista di id.
Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione
Questo esercizio si apre presto
Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.
Questo browser blocca i cookie per learn.floati.life, quindi le lezioni che hai finito qui non si possono aprire in ordine. Consenti i cookie per questo sito e ricarica.