AI 전쟁 2라운드 핵심은 GPU가 아닐 수도 있다

판이 바뀜 AI 시장을 떠올리면 우선적으로 먼저 나오는 이름은 여전히 엔비디아다. 생성형 AI 열풍 이후 GPU는 AI 인프라의 상징이 됐다.

거대한 언어모델을 학습시키고 빠르게 답변을 만들려면 다수의 병렬 연산이 필요했고, 이 역할에 GPU가 적합했기 때문이다. 하지만 최근 흐름은 조금 달라지고 있다.

AI가 단순히 질문에 답하는 챗봇에서 벗어나, 스스로 계획을 세우고 여러 작업을 처리하는 에이전트 형태로 진화하고 있다. 이 변화가 중요한 이유는 AI의 병목이 더 이상 GPU 하나에만 머물지 않기 때문이다.

GPU의 한계 GPU는 여전히 중요하다. 모델을 돌리고 추론 속도를 높이는 핵심 부품이라는 점은 변하지 않는다.

다만 AI 에이전트는 기존 챗봇과 다르다. 사용자가 자료를 찾고 요약하고 표로 정리해 달라고 요청하면, AI는 검색하고 읽고 판단하고 다시 확인하는 과정을 거친다.

이 과정은 GPU만으로 끝나지 않는다. 작업 순서를 정하고, 외부 도구를 호출하고, 데이터를 옮기고, ...