최근 구글 리서치가 발표한 터보퀀트라는 이름의 논문 한 편이 삼성전자와 SK하이닉스의 주가에 큰 영향을 미치고 있습니다. AI 붐을 타고 메모리는 없어서 못 판다는 낙관론이 지배하고 있는 시장에 메모리 사용량을 6분의 1로 줄인다는 구글의 터보퀀트는 악재 중의 악재일 수밖에 없는 상황입니다.
메모리 압축기의 등장 우리나라 최초의 전자계산기 전자계산기만 하더라도 처음에는 벽면을 가득 채울 만큼 거대했지만 지금은 주머니에 들어갈 정도로 작아진 것처럼, 이 세상에 처음 등장하는 모든 기술들이 처음에는 그 규모가 비대할 수밖에 없습니다. 어쩌면 지금의 AI 또한 과거의 전자계산기와 같은 처지일 수 있는데, AI 모델들은 대화가 길어질수록 과거의 맥락을 기억하기 위해 엄청난 양의 메모리를 소모하게 됩니다.
데이터가 쌓일수록 메모리에 과부하가 걸려 연산 속도가 급격히 느려지는 병목 현상이 발생하게 되고, 그동안 하드웨어 기업들은 더 많은 HBM을 때려 넣어 이 문제를 해결해 왔습니다. 하지만 ...
