Conteúdo do curso Lição 27 de 246 · Módulo 2: Matemática e probabilidade, apenas conforme necessário
Módulo 2: Matemática e probabilidade, apenas conforme necessário

Passando um empurrão adiante (a regra da cadeia)

Por que isso importa Uma rede é funções dentro de funções. A regra da cadeia diz como um empurrão no início viaja até o fim. Backpropagation não é nada mais que isso.

Veja isso

Três passos: dobre x, depois some 1, depois eleve ao quadrado. Comece em x = 2: dobrar dá 4, somar 1 dá 5, elevar ao quadrado dá 25.

Agora mude x por uma pequena quantidade. Dobrar torna o ajuste 2 vezes maior. Adicionar 1 o deixa do mesmo tamanho (vezes 1). Elevar ao quadrado em 5 o multiplica por 2 vezes 5 = 10. Então o fim move 2 vezes 1 vezes 10 = 20 vezes o ajuste.

Regra da cadeia: a inclinação de uma cadeia de passos é o produto da própria inclinação de cada passo, cada uma medida onde esse passo está.

Verificação por ajuste: x = 2.001 dá 2 * 2.001 + 1 = 5.002, ao quadrado 25.020004. O final moveu 0.020004 para um ajuste de 0.001: 20 vezes. Funciona.

Resumo Multiplique as inclinações locais ao longo da cadeia.

Palavras e símbolos nesta lição
regra da cadeia
a inclinação de steps em uma linha é o produto da inclinação de cada step
Sua vez

A cadeia é g(x) = (3x - 2) ** 2, depois h(u) = u ** 3, então o fim é h(g(x)). Escreva chain_slope(x) que retorna a inclinação do fim em relação a x usando a regra da cadeia (multiplique as inclinações locais), não por nudging. Note que g é em si dois passos, primeiro 3x - 2 e depois elevar ao quadrado, então a cadeia inteira tem três passos: multiplique todas as três inclinações locais, cada uma medida onde seu passo está.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.