로딩
요청 처리 중입니다...

[딥러닝 개념 9] 신경망 구조의 문제점_Gradient Vanishing, Overfitting, Covariate Shift

 [딥러닝 개념 9] 신경망 구조의 문제점_Gradient Vanishing, Overfitting, Covariate Shift

여기서 다루는 내용의 키워드 - Overfitting(과적합) - Gradient Vanishing(기울기 소실) - Covariate Shift(공변량 변화) - Universial Approximation Theorem 지금까지 신경망구조의 학습방법과 최적화방법을 알아보았습니다 층 여러개 쌓고, 역전파로 학습을 하니까 이제 모든 것이 걱정없이 진행될 것 같지요? 여러개의 층(layer)을 붙여 만들어진 신경망구조는 크게 3가지 문제가 생길 수 있어요 첫번째는 Overfitting, 과적합 문제, 두번째는 Gradient Vanishing, 즉 기울기 소멸 문제이고 세번째는 Covariate Shift, 즉 공변량 변화 문제입니다 Overfitting(과적합) 사실 이 문제는 신경망 뿐 아니라 다른 문제에서도 중요한 문제입니다 Overfitting(과적합)은 학습데이터를 너무 잘 학습한 나머지 새로운 데이터는 제대로 판단하지 못하게 되는 현상을 의미합니다 학습한 데이터는 너무 잘 ...

# gradientVanishing # overfitting # 공변량변화 # 과적합 # 기울기소실 # 딥러닝 # 신경망 # 신경망문제점 # 신경망학습