Ansehen: Wie Text zu Zahlen wird
Bevor ein LLM etwas mit deinem Prompt machen kann, muss es deinen Text in Zahlen umwandeln, weil ein neuronales Netzwerk nur Mathematik mit Zahlen ausführt. Der Schritt, der das tut, ist tokenization.
Drücke Play. Schau zu, wie ein einzelnes Wort in tokens (häufige Textstücke, oft Teilwörter, keine ganzen Wörter) gesplittet wird, und schau zu, wie jedes Token zu einer integer id aus dem Vokabular des Modells wird. Danach sieht das Modell nie wieder Buchstaben, sondern nur eine Liste von ids.
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.