Error: CUDA out of memory

안녕하세요~ 오늘 포스팅은 NVIDIA GPU 서버에서 모델 학습 시 CUDA 메모리 부족 문제를 해결하는 방법에 대해서 알아보겠습니다. NVIDIA GPU 사양 확인 nvidia-smi 명령어로 서버에 장착된 GPU 정보를 확인합니다. nvidia-smi Thu Mar 13 09:24:00 2025 +---------------------------------------------------------------------------------------+ | NVIDIA-SMI 535.183.01 Driver Version: 535.183.01 CUDA Version: 12.2 | |-----------------------------------------+----------------------+----------------------+ | GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr.

ECC | | Fan Temp Pe...