엔비디아의 AI 반도체 스타트업 Groq 인수 - AI 추론과 메모리 병목의 진짜 전쟁 최근 AI 업계에서 큰 화제가 된 이야기 중 하나가 엔비디아가 AI 반도체 스타트업인 ‘Groq를 약 200억 달러 수준으로 인수’했다는 소식인데요. Groq는 흔히 LPU라고 불리는 추론(inference) 특화 반도체를 설계하는 회사로 알려져 있습니다.
Groq는 contents.premium.naver.com 최근 AI 업계에서 큰 화제가 된 이야기 중 하나가 엔비디아가 AI 반도체 스타트업인 ‘Groq를 약 200억 달러 수준으로 인수’했다는 소식인데요. Groq는 흔히 LPU라고 불리는 추론(inference) 특화 반도체를 설계하는 회사로 알려져 있습니다.
Groq는 이 추론 단계에만 집중해, 연산 순서를 미리 고정하고 불필요한 제어를 줄이는 방식으로 매우 낮은 지연시간과 예측 가능한 성능을 강점으로 내세워 왔습니다. 이는 범용 GPU를 중심으로 생태계를 구축해 온 엔비디아의 접근과는 ...
