안녕하세요, 인프라큐브 ICT사업부 이팀장 입니다! 생성형 AI 시대에 GPU 공급 대란에 대하여 알고 계신지요?
데이터센터 용 GPU의 대표적인 모델 A100 GPU 와 H100 GPU가 2023년 초여름까지는 공급이 원활 했습니다. 예를들어 저희 회사에서 'oo연구센터'에 'Dell DSS 8440' 서버 + 'A100 GPU' 8개를 2023년 6월중순에 발주 받아서 8월초에 납품 하였습니다.
Dell DSS 8440 서버 2023년 8월 이후 발주 받은 A100 과 H100 서버는 발주후 납품까지의 기간이 50주 이상 걸린다는 답변을 받았습니다. 저희도 고객도 발을 동동 구르다가, GPU 모델을 변경하여 납품을 진행 하였습니다. 2023년 엔비디아 A100 GPU의 생산라인 중 일부가 H100생산라인으로 변경되었고, 2024년 1월 31일에 엔비디아는 A100 GPU 단종을 발표 하였습니다.
더불어 오픈AI 와 페이스북 Meta 에서 작년에 H100 GPU만 15만장 구매 하...
#
L40S
#
딥러닝
#
딥러닝서버
#
머신러닝
