Conteúdo do curso Lição 52 de 246 · Módulo 4: Seu próprio motor de autograd
Módulo 4: Seu próprio motor de autograd

Números para frente, gradientes para trás

Por que isso importa Antes de construir o motor, veja exatamente o que ele deve fazer, em cinco números.

Reproduza a animação e percorra os passos lentamente. Note duas coisas. Indo para frente, cada caixa precisa apenas de suas inputs. Indo para trás, cada caixa precisa apenas do gradient chegando da caixa depois dela, e sua própria inclinação local. Essa localidade é o que torna um engine possível: cada operação só precisa saber sua própria pequena regra.

Resumo Gradiente em uma caixa = gradiente chegando depois dela, vezes a inclinação local da caixa. Onde uma caixa alimenta duas outras, some o que volta de ambas.

Sua vez

Novos números, mesma fórmula L = (a * b + c) ** 2, com a = 1, b = 4, c = -2. Resolva à mão (não precisa de código além dos números) e defina grad_a, grad_b e grad_c.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.