Phỏng đoán nào giải thích dữ liệu tốt nhất (khả năng)
Vì sao điều này quan trọng Gần như mọi hàm mất mát trong khóa học này ngầm là cùng một ý tưởng: chọn mô hình mà dưới nó dữ liệu bạn đã thấy là có khả năng nhất.
Những con số nhỏ xíu
Bạn tung một đồng xu 10 lần và thấy 7 mặt ngửa. Đồng xu có cân bằng không? Hãy hỏi: nếu khả năng ra mặt ngửa là p, chính xác dãy này có khả năng tới đâu? Với p = 0.5 nó là 0.5 mũ 10, khoảng 0.00098. Với p = 0.7 nó là 0.7 mũ 7 nhân 0.3 mũ 3, khoảng 0.0022, có khả năng gấp hơn hai lần. Quét mọi p từ 0 tới 1 và cái tốt nhất đúng là 0.7: tỉ lệ mặt ngửa bạn đã thấy.
Khả năng (likelihood): dữ liệu quan sát được có xác suất tới đâu dưới một thiết lập cụ thể của mô hình. Ước lượng khả năng cực đại (maximum likelihood): thiết lập làm cho nó có xác suất cao nhất.
Tích của nhiều xác suất nhỏ trở nên quá nhỏ với máy tính, nên ta cộng các logarit thay vào đó: log-likelihood. Thiết lập tốt nhất không thay đổi, vì log chỉ bao giờ đi lên khi đầu vào của nó đi lên.
Tóm tắt Chọn thiết lập làm cho những gì bạn đã thấy ít bất ngờ nhất.
Từ và ký hiệu trong bài học này
- khả năng (likelihood)
- dữ liệu bạn đã thấy có xác suất tới đâu dưới một thiết lập của mô hình
Viết log_likelihood(p, heads, tails) và best_p(heads, tails), quét p trên np.linspace(0.001, 0.999, 999) và trả về p có log-likelihood cao nhất.
Hai quy tắc log bạn cần ở đây: log của một tích là tổng các log, log(a × b) = log a + log b, và vì thế một lũy thừa được đưa ra phía trước, log(p7) = 7 log p.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.