다시 이음

안녕하세요. 오늘은 딥러닝 학습방법에 역전파 방법에서 Pytorch에서 제공하는 Autograd 기능을 설명하려고 합니다. Pytorch의 기본적인 딥러닝 학습방법을 이해하는 데 좋음으로 읽어보면 좋을 것 같습니다. Autograd 공식문서🔥 먼저 Pytorch의 Autograd 기능에 대해 알아보겠습니다. Autograd는 PyTorch의 자동 미분 엔진입니다. Autograd가 어떤 기능을 하는지에 대해서 설명하기 위해서는 기본적인 딥러닝의 학습방법에 대해 간단하게 정리할 필요가 있습니다. 1. 딥러닝은 신경망으로 이루어져있고, 그 신경망은 가중치(weight)+bias(편향)의 매개변수를 텐서(pytorch.tensor)형태로 가지고 있습니다. 2. 딥러닝의 학습은 2단계로 순전파, 역전파가 있습니..

안녕하세요. 어제 우리는 신경망의 진행 방향에 따라 순전파와 역전파로 나뉜다고 알아보았습니다. 어제는 순전파에 대해서 알아보았고 오늘은 그 역전파에 대해서 알아보도록 하겠습니다. 🍀 들어가기 전에 꼭 알아둬야 할 게 있습니다. - 편미분 이해하기 - 이해를 못하겠더라도 계속해서 보고 손으로 써보고 해보기 역전파(Backpropagation) 1. 역전파 란? 역전파(Backpropagation)는 먼저 계산 결과와 정답의 오차를 구해 이 오차에 관여하는 값들의 가중치를 수정하여 오차가 작아지는 방향으로 일정 횟수를 반복해 수정하는 방법입니다. 오차역전파 또는 오류역전파라고도 불립니다. 역전파가 가능하려면 먼저 순전파가 선행되어야 합니다. 위에 설명에서 계산 결과와 정답의 오차를 우리는 손실(Loss or..