Độ dốc bằng cách đẩy nhẹ (đạo hàm)
Vì sao điều này quan trọng Huấn luyện hỏi đi hỏi lại một câu hỏi: nếu tôi đẩy nhẹ trọng số này, điều gì xảy ra với giá trị mất mát? Câu hỏi đó có một cái tên: đạo hàm.
Xem nó
Lấy f(x) = x * x tại x = 3, nơi f là 9. Đẩy x lên 3.001: f thành 9.006001. Đầu ra dịch 0.006001 cho một lần dịch đầu vào 0.001, gấp khoảng 6 lần. Vậy độ dốc tại 3 là khoảng 6.
Độ dốc chính xác của x bình phương là 2 nhân x, bằng 6 tại x = 3. Lần đẩy gần như ra đúng chính xác. Đẩy cả hai phía rồi lấy trung bình, (f(x + h) - f(x - h)) / (2h), còn chính xác hơn.
Đạo hàm (derivative): đầu ra thay đổi nhanh tới đâu cho mỗi đơn vị thay đổi của đầu vào, tại một điểm. Độ dốc của đường cong ở đó.
Những độ dốc bạn sẽ cần
Bạn luôn có thể đẩy nhẹ, nhưng những độ dốc chính xác này xuất hiện lặp đi lặp lại trong khóa học. Mỗi cái đều dễ kiểm tra bằng hàm slope của bạn.
| Hàm | Độ dốc |
|---|---|
| x mũ n | n nhân x mũ n - 1 (nên x bình phương có độ dốc 2x) |
| exp(x) | exp(x): chính nó là độ dốc của nó |
| log(x) | 1 / x |
| sigmoid(x) = 1 / (1 + exp(-x)) | sigmoid(x) nhân (1 - sigmoid(x)) |
| tanh(x) | 1 - tanh(x) bình phương |
| a nhân b, cả hai phụ thuộc vào x | (độ dốc của a) nhân b + a nhân (độ dốc của b): quy tắc tích |
| f(g(x)), cái này lồng trong cái kia | độ dốc của f tại g(x), nhân độ dốc của g: quy tắc dây chuyền, bài học tiếp theo |
Tóm tắt Đẩy nhẹ, đo, chia. Đạo hàm chỉ là vậy.
Từ và ký hiệu trong bài học này
- đạo hàm (df/dx)
- đầu ra thay đổi nhanh tới đâu cho mỗi đơn vị đẩy nhẹ của đầu vào
- quy tắc dây chuyền
- độ dốc của các bước nối tiếp là tích độ dốc riêng của mỗi bước
Viết slope(f, x, h=1e-5) dùng lần đẩy hai phía. Nó phải hoạt động với bất kỳ hàm một biến số nào.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.