Các head nhìn vào đâu
Vì sao điều này quan trọng Các trọng số attention có thể đọc được. Nhìn xem các head đã huấn luyện làm gì là khởi đầu của khả năng diễn giải: hiểu một mô hình từ bên trong của nó, không chỉ từ đầu ra.
Mô hình độ rộng 64 đã ghi lại có 2 lớp, mỗi lớp 4 head. Với mỗi head, đo xem trung bình một vị trí dành bao nhiêu attention cho ký tự ngay trước nó. Nếu một head trải attention đều trên mọi thứ nó được thấy, con số đó sẽ khoảng 0.10 trên một đoạn 32 ký tự.
Hãy dự đoán: các head của lớp nào chuyên về "nhìn vào ký tự trước đó"?
Từ và ký hiệu trong bài học này
- attention
- softmax của các điểm query-key, dùng để lấy trung bình các value
- head
- một trong H attention hẹp hơn chạy cạnh nhau, mỗi cái có khuôn mẫu riêng
Gán my_guess là 0 hoặc 1. Viết prev_share(A) cho một ma trận attention t nhân t: trung bình của A[i, i - 1] với i từ 1 tới t - 1. Điền share: (layer, head) ứng với trung bình của prev_share trên 40 đoạn giữ lại, dùng attention_maps.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.