(딥 러닝) 완전 연결 신경망(FNN) 개념

심층 신경망의 기본 단위는 퍼셉트론(perceptron)이다. 여러 개의 퍼셉트론을 서로 어떻게 연결하느냐에 따라 여러 종류로 나뉘는데 이 포스트에서는 대표적인 딥 러닝 모델 중 하나인 완전 연결 신경망에 대해 배워볼 것이다.

완전 연결 신경망 완전 연결 신경망(fully-connected neural network)은 다층 퍼셉트론이 가지는 또 다른 이름이다. 하지만 여러 구조의 심층 신경망이 추가로 발표되며 기존의 다층 퍼셉트론이라는 표현을 사용하기 애매해졌다.

때문에 오늘날에는 완전 연결 신경망이라는 표현을 사용하게 되었다. 완전 연결 계층 한 층(Layer)의 모든 뉴런이 그 다음 층(Layer)의 모든 뉴런과 연결된 상태의 계층을 의미한다.

그림 1 <그림 1>과 같이 이전 층 퍼셉트론들은 다음층 모든 퍼셉트론에 모두 연결(fully-connected)되어 있는 것을 볼 수 있다. FNN을 사용한 MNIST 데이터 셋 훈련(tensorflow) MNIST는 손으로 쓴 숫자들...