딥러닝 모델에서 사용되는 정규화 기법 중 하나 학습 과정에서 각 레이어의 입력 값을 정규화하여 학습의 안정성과 속도를 향상시키는 방법 딥러닝 모델의 레이어 간 입력 값을 정규화 미니배치 단위로 정규화 Batch Normalization 은 미니배치 단위로 입력 데이터의 평균과 분산을 계산하여 정규화 미니배치는 한 번에 모델에 입력되는 일정 개수의 데이터 샘플을 의미 평균과 분산 계산 각 미니배치에서 입력 데이터의 평균과 분산을 계산 이를 통해 해당 미니배치에서 데이터 분포를 파악할 수 있음 정규화 각 미니배치에서 입력데이터를 평균과 분산을 사용하여 정규화 정규화는 입력데이터의 분포를 평균이 0이고 분산이 1이 되도록 조정하는 작업 이를 통해 데이터 분포가 모델 학습에 적합한 형태로 조정 스케일(gamma) 과 시프트 (beta) 정규화된 데이터에 대해 스케일과 시프트 연산을 수행 스케일(gamma) : 정규화된 데이터에 대해 곱해지는 값 시프트(beta) : 정규화된 데이터에 대해 ...
원문 링크 : Batch Normalization
