안녕하세요~ 오늘 포스팅은 사용 중인 GPU의 메모리 용량이 현재 작업에 필요한 메모리를 초과했을 때 발생하는 오류를 해결하는 방법에 대해서 알아보겠습니다. 오류 내용 Hugging Face의 Google Gemma 모델을 불러올 때 다음과 같은 오류 메시지가 나타납니다.
BASE_MODEL = 'google/gemma-2b-it' model = AutoModelForCausalLM.from_pretrained(BASE_MODEL, device_map={'':0}) tokenizer = AutoTokenizer.from_pretrained(BASE_MODEL, add_special_tokens=True) . . . File /usr/local/lib/python3.8/dist-packages/transformers/modeling_utils.py:3502, in PreTrainedModel.from_pretrained(cls, pretrained_model_name_or_path, ...
#
AI
#
MLOps방법론
#
MLOps
#
Kubeflow오류
#
GPU메모리오류
#
AI프레임워크
#
AI파이프라인자동화
#
AI파이프라인구축
#
AI워크플로우
#
AI백엔드기술
#
AI모델자동화
#
AI모델생애주기
#
AI모델구축
#
AI모델개발
#
MLOps오류
원문 링크 : CUDA out of memory
![[건강] 나의 헬스 일지 : 2022.08.01 ~ 2022.08.07](https://mblogthumb-phinf.pstatic.net/MjAyMjA4MDhfMjIg/MDAxNjU5OTE4NjY2NTU3.lT67wFs-8RjmL8_tavYTTTfZ0fwHnyQx-Jhr1qLz4P0g.wDSxIQN5pIX666f0bP_CBm_qM8Y5guJBPE0V5UQiHmAg.PNG.dgkim1108/%B3%D7%C0%CC%B9%F6-%BA%ED%B7%CE%B1%D7-001.png?type=w2)
![[일본 여행] 아소 '다이칸보 전망대'에 가다](https://mblogthumb-phinf.pstatic.net/MjAyMzExMjhfMjg5/MDAxNzAxMTM0NTgyNTg1.9Ir0vyoAkEVh_76Mdk4qVX1-Jd4nll-Gq0HtqDcvXJYg.RWgailBztqFYJf2bLwYp19Fw6aD_s1y3ISKIQpt57VUg.PNG.dgkim1108/002.png?type=w2)
