AI 추론 컴퓨팅의 병목을 겨냥한 마이크로소프트의 자체 칩 ‘Maia 200’ 최근 구글과 엔비디아는 지금의 LLM과 AI 추론(inference) 컴퓨팅 인프라가 구조적으로 서로 맞지 않음을 설명하며 앞으로 새로운 추론 컴퓨팅 설계가 필요함을 크게 강조하고 있고, 이에 대해 저도 여러 차례 설명드린 적이 있는데요. 얼마 전 마이크로소프트 또한 contents.premium.naver.com 최근 구글과 엔비디아는 지금의 LLM과 AI 추론(inference) 컴퓨팅 인프라가 구조적으로 서로 맞지 않음을 설명하며 앞으로 새로운 추론 컴퓨팅 설계가 필요함을 크게 강조하고 있고, 이에 대해 저도 여러 차례 설명드린 적이 있는데요.
얼마 전 마이크로소프트 또한 ‘Maia 200’이라는 자체 AI 칩을 공개하며 추론 인프라를 어떻게 재설계하고 있는지를 비교적 분명하게 보여주었습니다. Maia 200은 범용 GPU와 달리 추론 작업을 더 효율적으로 처리하기 위해 설계되었으며, 최신 반도체 공...
