1-3. Gradient Descent (경사 하강법)

머신러닝에 대해서는 아래의 유튜브를 통해 학습하였다. Gradient Descent (경사 하강법) 경사 하강법은 머신 러닝과 최적화 알고리즘에서 매개변수를 조정하여 함수의 최솟값을 찾는 기법이다.

주어진 함수의 기울기를 활용하여 최적의 매개변수 값을 찾아가는 방법이다. 경사 하강법은 일반적으로 손실 함수를 최소화하는데 사용된다.

손실 함수는 모델의 예측값과 실제값 사이의 차이를 나타내는 함수로, 모델의 성능을 평가하는 지표이다. 경사 하강법은 손실 함수의 기울기를 따라 가장 빠르게 감소하는 방향으로 매개변수를 업데이트하여 최적의 매개변수 값을 찾아낸다.

경사 하강법에서 매개변수는 일반적으로 2가지가 있다. - 학습률 (learing rate): 평가 하는 데이터의 보폭, 일반적으로 (0.001, 0.0.....