Xem: Văn bản trở thành con số như thế nào
Trước khi một LLM làm được gì với prompt của bạn, nó phải biến văn bản của bạn thành con số, vì một mạng nơ-ron chỉ làm toán trên con số. Bước làm việc này là tách token (tokenization).
Nhấn phát. Xem một từ đơn được tách thành các token (những mẩu văn bản thường gặp, hay là các từ con, không phải nguyên từ), và xem mỗi token trở thành một id số nguyên từ bộ từ vựng của mô hình. Sau bước này, mô hình không bao giờ thấy chữ cái nữa, chỉ một list các id.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.