딥러닝의 경량화, MobileNet으로 시작하자

작은 모델로 큰 성능을, MobileNet 시리즈 정리 왜 경량화가 필요한가? 딥러닝 모델은 대규모 파라미터와 높은 연산량을 필요로 합니다.

하지만 스마트폰, IoT 디바이스, 드론, 자율주행 센서 등은 제한된 자원(CPU, 메모리, 배터리)으로 인해 대형 모델을 그대로 사용할 수 없습니다. 이때 필요한 것이 바로 경량화 모델(Lightweight Model)입니다.

그중 대표적인 것이 Google의 MobileNet 시리즈입니다. MobileNet의 구조적 특징 (v1 기준) MobileNet은 기존 CNN 구조를 바꾸어 연산량을 획기적으로 줄이면서도 정확도를 유지합니다.

핵심 아이디어는 다음과 같습니다: Depthwise Separable Convolution 일반적인 Conv 연산은 공간 + 채널을 동시에 처리합니다. 하지만 MobileNet은 이를 두 단계로 나누어 분리합니다: Depthwise Convolution 각 입력 채널에 대해 1개의 필터만 적용 연산량: D_...