메모리 대역폭 병목 현상을 해결한 세계에서 가장 큰 AI 추론용 칩?! Cerebras의 ‘Wafer Scale Engine(WSE) 3’ 엔비디아(NVIDIA)는 AI 훈련(Training)용 칩 시장에서 초고성능 GPU를 바탕으로 확고한 우위를 점하고 있습니다.
그러나 AI 추론(Inference), 즉 훈련된 모델을 활용해 실질적인 서비스를 하는 단계에서는 훈련과는 전혀 다른 특성들, 예를 들어 성능 contents.premium.naver.com 엔비디아(NVIDIA)는 AI 훈련(Training)용 칩 시장에서 초고성능 GPU를 바탕으로 확고한 우위를 점하고 있습니다. 그러나 AI 추론(Inference), 즉 훈련된 모델을 활용해 실질적인 서비스를 하는 단계에서는 훈련과는 전혀 다른 특성들, 예를 들어 성능도 중요하지만 무엇보다도 속도나 운영 비용 등이 더 강조되기 때문에 이를 겨냥한 다양한 경쟁자들이 존재하며, 이들은 저마다 독특한 기술적 접근으로 시장 점유율을 넓혀가고...
#
AI
#
HBM
#
SRAM
#
메모리
#
메모리대역폭
#
메모리병목현상
#
메모리용량
#
미국주식
#
엔비디아
#
H100
#
Groq
#
AI추론
#
AI추론비용
#
AI추론속도
#
AI훈련
#
AMD
#
Cerebras
#
DRAM
#
GPU
#
인공지능
