Ý nghĩa từ những người bạn đồng hành của một từ
Vì sao điều này quan trọng "Bạn sẽ biết một từ qua những người bạn mà nó giao du." Đếm xem từ nào xuất hiện gần từ nào, và chỉ riêng các số đếm đã đặt king gần queen và cho bạn làm số học như king trừ man cộng woman.
Để kiểm tra điều này một cách trung thực chúng ta cần biết các câu trả lời đúng, nên bài học này dùng một thế giới nhỏ bịa ra có cấu trúc được cài sẵn: mỗi người là hoàng gia hoặc thường dân, he hoặc she, người lớn hoặc trẻ nhỏ, và mỗi thứ đó hiện ra thành các từ khác trong cùng câu ("the queen rules in the palace and she reads"). Văn bản thật lộn xộn hơn nhiều, nhưng cơ chế thì như nhau.
Từ số đếm tới vector
Đếm, cho mọi cặp từ, chúng xuất hiện trong phạm vi một cửa sổ w từ của nhau thường tới đâu. Hàng số đếm của mỗi từ là vector của nó. Một hàm trợ giúp biến số đếm thô thành "thường hơn ngẫu nhiên bao nhiêu" (PPMI), để "the" không lấn át mọi thứ.
Một phép loại suy a : b = c : ? được trả lời bằng từ gần nhất với b trừ a cộng c. Có 72 câu hỏi như vậy trong thế giới này.
Hãy dự đoán: với một cửa sổ 2 từ, và với một cửa sổ bao trọn cả câu 9 từ, tỷ lệ đúng sẽ là bao nhiêu?
Từ và ký hiệu trong bài học này
- cửa sổ
- bao nhiêu từ ở mỗi bên được tính là bạn đồng hành của một từ
- PPMI
- hai từ gặp nhau thường hơn ngẫu nhiên bao nhiêu, với các giá trị âm đặt về 0
Gán my_guess là hai dự đoán của bạn. Viết cooccurrence(sents, win): một array V nhân V các số đếm, cộng 1 vào [word, other] cho mọi từ khác trong phạm vi win vị trí trong cùng câu. Rồi điền acc cho cửa sổ 2 và 8 bằng score(ppmi(...)).
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.