인공지능 추론 영역에도 HBM 메모리가 꼭 필요할까? 요즘 오픈AI CEO 샘 알트먼의 ‘7조 달러 반도체 투자’ 발언이 엄청난 화제인데요.
이에 대해 저는 AI 에이전트와 같은 새로운 서비스 출시로 인해 특히 ‘추론용 서버 칩 수요’가 엄청나게 증가할 것을 예상하여 나온 발언이지 않았나 추측한 적이 있었습니다. 그리고 contents.premium.naver.com 요즘 오픈AI CEO 샘 알트먼의 ‘7조 달러 반도체 투자’ 발언이 엄청난 화제인데요.
이에 대해 저는 AI 에이전트와 같은 새로운 서비스 출시로 인해 특히 ‘추론용 서버 칩 수요’가 엄청나게 증가할 것을 예상하여 나온 발언이지 않았나 추측한 적이 있었습니다. 그리고 얼마 전에 새로 출시된 비디오 생성 모델 Sora에 대해서도 정리해드렸는데, 영상은 데이터 처리가 훨씬 큰 만큼 추론 시에, 즉 사용자들에게 서비스 할 때 더 많은 컴퓨팅을 필요로 할 것으로 보입니다.
실제로 어제 나온 엔비디아의 2023년 4분기 실적 발...
#
AI
#
미국주식
#
반도체
#
삼성전자
#
샘알트먼
#
생성형AI
#
서버
#
엔비디아
#
오픈AI
#
온디바이스AI
#
인공지능
#
챗GPT
#
메모리
#
데이터센터
#
데이터
#
AI추론
#
AI학습
#
AMD
#
GPT
#
H100
#
HBM
#
MI300X
#
SK하이닉스
#
Sora
#
TSV
#
대역폭
#
클라우드
원문 링크 : 인공지능 추론 영역에도 HBM 메모리가 꼭 필요할까?