로딩
요청 처리 중입니다...

인공지능 추론 영역에도 HBM 메모리가 꼭 필요할까?

 인공지능 추론 영역에도 HBM 메모리가 꼭 필요할까?

인공지능 추론 영역에도 HBM 메모리가 꼭 필요할까? 요즘 오픈AI CEO 샘 알트먼의 ‘7조 달러 반도체 투자’ 발언이 엄청난 화제인데요.

이에 대해 저는 AI 에이전트와 같은 새로운 서비스 출시로 인해 특히 ‘추론용 서버 칩 수요’가 엄청나게 증가할 것을 예상하여 나온 발언이지 않았나 추측한 적이 있었습니다. 그리고 contents.premium.naver.com 요즘 오픈AI CEO 샘 알트먼의 ‘7조 달러 반도체 투자’ 발언이 엄청난 화제인데요.

이에 대해 저는 AI 에이전트와 같은 새로운 서비스 출시로 인해 특히 ‘추론용 서버 칩 수요’가 엄청나게 증가할 것을 예상하여 나온 발언이지 않았나 추측한 적이 있었습니다. 그리고 얼마 전에 새로 출시된 비디오 생성 모델 Sora에 대해서도 정리해드렸는데, 영상은 데이터 처리가 훨씬 큰 만큼 추론 시에, 즉 사용자들에게 서비스 할 때 더 많은 컴퓨팅을 필요로 할 것으로 보입니다.

실제로 어제 나온 엔비디아의 2023년 4분기 실적 발...

# AI # 미국주식 # 반도체 # 삼성전자 # 샘알트먼 # 생성형AI # 서버 # 엔비디아 # 오픈AI # 온디바이스AI # 인공지능 # 챗GPT # 메모리 # 데이터센터 # 데이터 # AI추론 # AI학습 # AMD # GPT # H100 # HBM # MI300X # SK하이닉스 # Sora # TSV # 대역폭 # 클라우드