강의 계획 레슨 246개 중 53번째 · 모듈 4: 자기만의 autograd 엔진
모듈 4: 자기만의 autograd 엔진

Tensor: 기억하는 배열

왜 중요한가 엔진의 유일한 데이터 타입은 Tensor예요: 배열 더하기 기울기를 위한 자리 더하기 어디서 왔는지에 대한 메모.

Tensor는 세 가지를 담아요:

  • data: 값의 NumPy 배열.
  • grad: 같은 모양의 배열, 0에서 시작하고 역방향이 채워요.
  • parents: 그걸 계산한 Tensor들(입력과 가중치에는 비어 있어요).

모든 연산은 새 Tensor를 만들고 부모를 기록해요. 오늘은 +와 *의 순방향 부분만: 값을 계산하고 부모를 기억하세요.

Tensor: 딥러닝에서는 그냥 n차원 배열. 여기서는 기울기와 그 역사도 지닌 배열.

이 레슨의 단어와 기호
Tensor
여기서는: 배열 더하기 그 기울기 더하기 그것이 나온 Tensor들
.grad
이 Tensor에 대한 최종 손실의 기울기
unbroadcast
기울기를 늘어나기 전의 모양으로 다시 합해 줄이기
내 차례

__add__와 __mul__을 채워서, data가 합이나 곱이고 parents가 (self, other)인 새 Tensor를 반환하게 하세요. 평범한 숫자도 Tensor.lift를 통해 돼야 해요. _backward는 지금은 그대로 두세요.

이 레슨에서 문제를 발견했나요? 알려 주세요 · 이 레슨에 대해 묻기

이 연습은 곧 열려요

앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.