Conteúdo do curso Lição 51 de 246 · Módulo 4: Seu próprio motor de autograd
Módulo 4: Seu próprio motor de autograd

Gancho: dez linhas que treinam um leitor de dígitos

Por que isso importa No Módulo 3 você escreveu cada gradiente à mão. Redes reais têm dezenas de tipos de camada; ninguém deriva isso à mão toda vez. Um motor de autograd faz isso por você, e ao final deste módulo você terá escrito um.

As primeiras linhas importam o motor finalizado que você está prestes a construir (ele fica fora de vista, então as próximas lições continuam sendo suas para resolver). Olhe para as dez linhas após os dados: elas constroem uma rede, e a treinam em dígitos, e em nenhum lugar elas mencionam uma fórmula de gradiente. loss.backward() resolve todas elas.

Chame a Curve primeiro: chute a média da perda de treinamento após a epoch 1 e após a epoch 10.

Autograd: diferenciação automática. Você escreve apenas o cálculo forward; o motor o registra e calcula cada gradiente executando a regra da cadeia de trás para frente.

Palavras e símbolos nesta lição
autograd
gradientes automáticos: você escreve o forward pass, o motor faz o backward
Tensor
Aqui: um array mais seu gradiente mais os Tensors de onde ele veio
zero_grad
redefinindo os gradientes antes do próximo passo, porque o backward adiciona a eles
Sua vez

Preencha my_guess, depois execute. Leia as dez linhas de treinamento e note o que está faltando.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.