Xem: Softmax
Hồi quy logistic cho bạn một xác suất cho hai lớp. Còn nhiều lớp thì sao, hay bất cứ lúc nào một mô hình phải biến các điểm số thô thành một tập xác suất gọn gàng? Việc đó thuộc về softmax.
Nhấn phát. Xem bốn điểm số thô (logit) được lấy mũ (việc này khuếch đại phần dẫn trước) rồi được chuẩn hóa để cộng lại đúng bằng 1, trở thành một phân phối xác suất. Hàm duy nhất này xuất hiện khắp nơi phía trước: trọng số attention, bộ phân loại, và một LLM chọn token tiếp theo.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.