로딩
요청 처리 중입니다...

Backpropagation

 Backpropagation

0. Introduction Backpropagation은 Deep Learning 학습의 핵심 메커니즘입니다.

Deep Learning의 학습은 학습하려는 Train Data를 Network에 넣어서 값을 출력하는 순서를 거치게 됩니다. 이 과정을 Feedforward라고 합니다.

물론 이 과정에서 출력되는 값은 Network이 학습이 진행되기 전이기 때문에 실제 Target 값과 많이 차이가 나게 됩니다. Deep Learning은 Target 값과 실제 정답과의 차이를 이용하여 Network을 구성하는 Parameter(Weight , Bias)를 적절하게 Update 합니다.

이 과정을 Backpropagation이라고 하며, 이번 Post에서는 Backpropagation 과정이 실제로 어떻게 동작하는지 알아보겠습니다. 1. Feedforward 먼저, Train Data로 Network이 Target 값을 계산하는지 알아보겠습니다.

다음과 같은 Network이 있다고 해보...

# Activation # rate # relu # rnn # rule # sigmoid # softmax # tensorflow # Weight # 도함수 # 딥러닝 # 에러신호 # 편미분 # 학습 # pytorch # Parameter # algorithm # Backpropagation # Bias # chain # cnn # deeplearning # descent # Feedforward # gradient # learning # loss # network # neural # 학습률

원문 링크 : Backpropagation