Programma Lezione 109 di 250 · Intuizione sulle reti neurali, LLM e progetto finale di IA
Intuizione sulle reti neurali, LLM e progetto finale di IA

Guarda: come il testo diventa numeri

Prima che un LLM possa fare qualsiasi cosa con il tuo prompt, deve trasformare il testo in numeri, perché una rete neurale fa calcoli solo sui numeri. Il passo che lo fa è la tokenizzazione.

Premi play. Guarda una singola parola venire divisa in token (pezzi frequenti di testo, spesso sottoparole, non parole intere), e guarda ogni token diventare un id intero preso dal vocabolario del modello. Da lì in poi, il modello non vede mai più lettere, solo una lista di id.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.