Chương trình học Bài 33 trên tổng số 246 · Mô-đun 2: Toán và xác suất, chỉ ở mức cần thiết
Mô-đun 2: Toán và xác suất, chỉ ở mức cần thiết

Phỏng đoán nào giải thích dữ liệu tốt nhất (khả năng)

Vì sao điều này quan trọng Gần như mọi hàm mất mát trong khóa học này ngầm là cùng một ý tưởng: chọn mô hình mà dưới nó dữ liệu bạn đã thấy là có khả năng nhất.

Những con số nhỏ xíu

Bạn tung một đồng xu 10 lần và thấy 7 mặt ngửa. Đồng xu có cân bằng không? Hãy hỏi: nếu khả năng ra mặt ngửa là p, chính xác dãy này có khả năng tới đâu? Với p = 0.5 nó là 0.5 mũ 10, khoảng 0.00098. Với p = 0.7 nó là 0.7 mũ 7 nhân 0.3 mũ 3, khoảng 0.0022, có khả năng gấp hơn hai lần. Quét mọi p từ 0 tới 1 và cái tốt nhất đúng là 0.7: tỉ lệ mặt ngửa bạn đã thấy.

Khả năng (likelihood): dữ liệu quan sát được có xác suất tới đâu dưới một thiết lập cụ thể của mô hình. Ước lượng khả năng cực đại (maximum likelihood): thiết lập làm cho nó có xác suất cao nhất.

Tích của nhiều xác suất nhỏ trở nên quá nhỏ với máy tính, nên ta cộng các logarit thay vào đó: log-likelihood. Thiết lập tốt nhất không thay đổi, vì log chỉ bao giờ đi lên khi đầu vào của nó đi lên.

Tóm tắt Chọn thiết lập làm cho những gì bạn đã thấy ít bất ngờ nhất.

Từ và ký hiệu trong bài học này
khả năng (likelihood)
dữ liệu bạn đã thấy có xác suất tới đâu dưới một thiết lập của mô hình
Đến lượt bạn

Viết log_likelihood(p, heads, tails) và best_p(heads, tails), quét p trên np.linspace(0.001, 0.999, 999) và trả về p có log-likelihood cao nhất.

Hai quy tắc log bạn cần ở đây: log của một tích là tổng các log, log(a × b) = log a + log b, và vì thế một lũy thừa được đưa ra phía trước, log(p7) = 7 log p.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.