Những phần nào quan trọng
Vì sao điều này quan trọng Trước khi giải thích một phần, hãy tìm xem nó có làm gì không. Loại bỏ các phần (cắt bỏ) là hiệu ứng rẻ nhất bạn có thể đo, và nó thay đổi nơi bạn nhìn.
Mỗi khối của GPT có một phần attention (ghi 'attn_out0', 'attn_out1') và một MLP (ghi 'mlp_out0', 'mlp_out1'). Loại bỏ từng cái một (đặt đầu ra của nó về không) và đo mức tăng của giá trị mất mát trên dữ liệu giữ lại. Rồi loại bỏ từng head trong bốn head của khối 1 bằng interp.head_effects(model, X, Y, 1).
Một rủi ro: nếu hai head làm cùng một việc, loại bỏ riêng một cái gần như không cho thấy gì. Vì vậy hãy so sánh thêm bốn mức tăng của từng head, cộng lại, với việc loại bỏ toàn bộ attention của khối 1 cùng lúc. Nếu loại bỏ chúng cùng nhau gây hại hơn nhiều so với tổng, chúng dự phòng cho nhau.
Từ và ký hiệu trong bài học này
- khuôn mẫu, hiệu ứng, cơ chế
- ba loại bằng chứng: đã nhìn và đã thấy; đã thay đổi nó và đầu ra thay đổi; đã giải thích nó và lời giải thích dự đoán được các trường hợp mới
- cắt bỏ
- loại một phần (đặt đầu ra của nó về không) và đo xem điều gì thay đổi
Điền rise cho bốn phần, heads1 với bốn mức tăng của từng head, rồi gán backup là True nếu loại bỏ toàn bộ attention của khối 1 tốn hơn hai lần tổng của riêng các head của nó, và biggest là phần mà việc loại bỏ tốn nhiều nhất.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.