목록Optimizer (2)

HealthyAI

DL) Training Inference

보호되어 있는 글입니다.
AI/Deep Learning 2023. 4. 19. 00:56
PyTorch) AutoGrad, Optimizer

AutoGrad, Optimizer Layer = Block of Lego AutoGrad pytorch 의 핵심은 자동 미분의 지원 w = torch.tensor(2.0, requires_grad = True) y = w ** 2 z = 10 * y + 25 z.backward() w.grad torch.nn.Module 딥러닝을 구성하는 Layer의 base class Input, Output, Forward, Backward 정의 학습의 대상이 되는 parameter(tensor) 정의 nn.Parameter Tensor 객체의 상속 객체 nn.Module 내에 attribute 가 될 때는 required_grad = True로 지정되어 학습 대상이 되는 Tensor autograd의 대상이 된다..
AI/PyTorch 2023. 3. 18. 14:02
이전 Prev 1 Next 다음