Chương trình học Bài 193 trên tổng số 246 · Mô-đun 18: Học không cần nhãn
Mô-đun 18: Học không cần nhãn

Phân loại những bức ảnh chưa ai gắn nhãn

Vì sao điều này quan trọng Nhãn rất đắt: ai đó phải nhìn vào từng bức ảnh. Ảnh không có nhãn gần như miễn phí. Nếu một mạng có thể học các đặc trưng hữu ích chỉ từ ảnh không nhãn, mọi mô hình có thể bắt đầu từ hàng triệu ví dụ thay vì hàng nghìn. Đó là học tự giám sát, và đó là cách các mô hình lớn ngày nay được tiền huấn luyện.

Các bức ảnh trong mô-đun này là ảnh 16 x 16 nhỏ xíu của sáu loại vật thể (bóng, hộp, vòng, lều, chữ thập, trăng) trong các cảnh lộn xộn: nền ngẫu nhiên, ánh sáng từ bất kỳ phía nào, bóng đổ, vật chắn phía trước, nhòe và nhiễu cảm biến. Chúng được sinh ra, không phải tải về, và được dựng để hành xử như ảnh thật: khóa học đã đo ba thống kê mà mọi ảnh tự nhiên đều có chung (chi tiết giảm dần theo tỷ lệ ra sao, các cạnh thưa tới đâu, các điểm ảnh lân cận giống nhau tới đâu), và các ảnh này nằm trong phạm vi của các mẩu cắt ảnh thật ở cả ba. photos.stats(X) in chúng ra.

Một bài kiểm tra nhanh cho bất kỳ tập đặc trưng nào: với mỗi ảnh, tìm 5 láng giềng gần nhất theo các đặc trưng đó và đếm bao nhiêu ảnh thể hiện cùng loại vật thể. Đoán mò được 1 trên 6.

Ba loại đặc trưng:

  • các điểm ảnh thô;
  • một CNN với trọng số ngẫu nhiên, chưa từng được huấn luyện;
  • cùng CNN đó sau khi tiền huấn luyện SimCLR trên 4000 ảnh, hoàn toàn không có nhãn (khóa học đã huấn luyện nó một lần; bạn sẽ thấy cách làm ở bài học 5).

Hãy dự đoán trước: loại nào đặt các ảnh của cùng một vật thể gần nhau nhất?

Từ và ký hiệu trong bài học này
học tự giám sát
học đặc trưng từ dữ liệu không có nhãn, bằng một nhiệm vụ mà dữ liệu tự đặt ra
SimCLR
huấn luyện tự giám sát với hai góc nhìn của mỗi bức ảnh và InfoNCE (Chen và cộng sự 2020)
Đến lượt bạn

Gán my_guess là "raw", "random" hoặc "simclr". Viết agreement(F, labels, k): chuẩn hóa mỗi đặc trưng, co giãn mỗi hàng về độ dài 1, và trả về tỷ lệ của k láng giềng gần nhất (theo độ tương đồng cosine, một ảnh không phải láng giềng của chính nó) có cùng nhãn. Điền scores cho ba loại đặc trưng.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.