Deep Belief Network (DBN)란?

딥러닝의 원조격인 심층 신경망 구조 요즘은 CNN, Transformer 같은 구조들이 대세지만, 딥러닝의 초창기였던 2000년대 후반, 사람들은 이런 질문을 던졌습니다. “왜 인공신경망은 깊어질수록 학습이 안 되는 걸까?”

“어떻게 하면 효율적으로 여러 층의 신경망을 학습시킬 수 있을까?” 그 고민 끝에 등장한 것이 바로 Deep Belief Network (DBN)입니다.

DBN이란? Deep Belief Network는 여러 개의 Restricted Boltzmann Machine (RBM)을 층층이 쌓아서 구성한 딥러닝 모델입니다.

RBM은 확률 기반의 비지도 학습 모델인데, DBN은 이것들을 “스택처럼 쌓아 올리는” 구조입니다. DBN의 핵심은 다음과 같습니다: "하위 레이어는 상위 레이어의 입력을 생성할 수 있는 확률적 모델이다."

쉽게 말하면, 각 층이 '특징(feature)'을 학습하고, 그 특징을 기반으로 다음 층이 더 추상적인 특징을 학습하는 구조입니다. DBN...