Chương trình học Bài 140 trên tổng số 246 · Mô-đun 12: Từ ngữ thành con số (embedding)
Mô-đun 12: Từ ngữ thành con số (embedding)

Bài kiểm tra vượt cấp: vector từ cho một thế giới mới (tắt AI)

Vì sao điều này quan trọng Dựng vector từ từ các câu thô, kiểm tra xem chúng học được gì, và lấy đi một độ lệch mà chúng sao chép, một mình, là cả mô-đun này trong một nhiệm vụ.

Gia sư AI tắt. Bài kiểm tra cho các hàm của bạn một thế giới bạn chưa từng thấy: các câu mới từ một seed khác, với nurse và engineer bị lệch về she và he. Không gì về nó có trong namespace của bạn.

Từ và ký hiệu trong bài học này
cửa sổ
bao nhiêu từ ở mỗi bên được tính là bạn đồng hành của một từ
PPMI
hai từ gặp nhau thường hơn ngẫu nhiên bao nhiêu, với các giá trị âm đặt về 0
độ lệch
một khuôn mẫu lệch một bên trong dữ liệu mà các vector sao chép
Đến lượt bạn

Viết word_vectors(sents, vocab): đếm các lần cùng xuất hiện bên trong mỗi câu với cửa sổ WINDOW do bạn chọn, và trả về ppmi(counts), một hàng cho mỗi từ của vocab. Viết debias(X, vocab): trả về một bản sao của X trong đó bốn nghề (nurse, engineer, doctor, teacher) đã được lấy đi hướng giới tính (vector đơn vị, bốn cặp, như bài học trước), mọi hàng khác không thay đổi. Bài kiểm tra chấm 72 phép loại suy trên thế giới của riêng nó (đúng ít nhất 95%) rồi đo vị trí của mỗi nghề trên hướng giới tính sau debias của bạn (tất cả trong phạm vi 0.05 quanh không).

Tắt AI: không có gia sư, gợi ý hoặc lời giải mẫu cho bài này. Chỉ dùng tư duy của riêng bạn.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.