손실 함수(Loss Function)

참조 교재 밑바닥부터 시작하는 딥러닝 - 파이썬으로 익히는 딥러닝 이론과 구현- 직접 구현하고 움직여보며 익히는 - 인터파크 추가 회원 중복 할인 쿠폰, 교재/전집에 대한 상품입니다. shopping.interpark.com 손실 함수란 신경망 학습에서 최적의 매개변수 값을 탐색하는 지표로 현재 신경망이 훈련 데이터를 얼마나 잘 처리하지 '못'하느냐를 나타낸다. 기계 학습 문제는 훈련 데이터에 대한 손실 함수의 값을 구하고, 그 값을 최대한 줄여주는 매개변수를 찾아낸다.

현재 포스터에서는 손실 함수 중 일반적으로 자주 쓰이는 "평균 제곱 오차" 와 "교차 엔트로피 오차"를 알아본다. 1. 평균 제곱 오차(mean squared error, MSE) 식으로는 다음과 같이 나타낸다. yk : 신경망의 출력, softmax 함수의 출력(0~1 사이의 값으로 모두 더하면 1이 됨) tk : 정답 레이블, one-hot 인코딩된 결과로 한 원소만 1, 그 외는 0 k : 데이터의 차원 수 #...