Chương trình học Bài 109 trên tổng số 250 · Trực giác về mạng nơ-ron, LLM và dự án cuối về AI
Trực giác về mạng nơ-ron, LLM và dự án cuối về AI

Xem: Văn bản trở thành con số như thế nào

Trước khi một LLM làm được gì với prompt của bạn, nó phải biến văn bản của bạn thành con số, vì một mạng nơ-ron chỉ làm toán trên con số. Bước làm việc này là tách token (tokenization).

Nhấn phát. Xem một từ đơn được tách thành các token (những mẩu văn bản thường gặp, hay là các từ con, không phải nguyên từ), và xem mỗi token trở thành một id số nguyên từ bộ từ vựng của mô hình. Sau bước này, mô hình không bao giờ thấy chữ cái nữa, chỉ một list các id.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.