Bekijk: Hoe tekst getallen wordt
Voordat een LLM iets kan doen met je prompt, moet het je tekst omzetten naar getallen, omdat een neuraal netwerk alleen wiskunde uitvoert op getallen. De stap die dit doet is tokenization.
Druk op play. Kijk hoe een enkel woord wordt gesplitst in tokens (veelvoorkomende tekstfragmenten, vaak subwoorden, geen hele woorden), en kijk hoe elk token een integer id uit de vocabulary van het model wordt. Daarna ziet het model nooit meer letters, alleen een lijst van ids.
Een probleem ontdekt in deze les? Meld het · Vraag naar deze les
Deze oefening opent binnenkort
Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.
Deze browser blokkeert cookies voor learn.floati.life, dus lessen die je hier hebt afgerond kunnen niet in de juiste volgorde worden geopend. Sta cookies toe voor deze site en laad de pagina opnieuw.