요즘 뉴스만 틀면 “AI”, “챗GPT”, “생성형 AI” 같은 말이 쏟아지고 있다. AI가 사람보다 글도 잘 쓰고, 그림도 잘 그리고, 음악도 만드는 시대가 되었다.
그런데 여기서 한가지 궁금증이 생긴다. 똑똑한 AI가 되려면 많은 것을 공부하고 기억해야 하는데, 대체 어디에다가 이 많은 정보를 담아두고 있을까?
정답은 어렵지 않다. 사람은 머릿속 뇌에 기억을 저장하는 반면, AI는 반도체 메모리 속에 데이터를 저장하고 꺼내 쓴다.
즉, AI 연산을 담당하는 두뇌가 GPU, 그 GPU가 쓸 데이터를 빠르게 가져오는 기억창고가 바로 메모리인 것이다. 지금까지는 D램(DRAM)이라는 메모리가 컴퓨터, 스마트폰, 게임기 속에서 열심히 일을 해왔다.
“지금 켜놓은 프로그램”, “지금 편집 중인 사진” 같은 것들을 잠깐 저장해주는 역할이었다. 하지만 AI 시대가 되면서 문제가 생겼다.
AI가 다루는 데이터의 양이 너무 많이, 너무 빨리 늘어난 것이다. 예전처럼 평범한 D램만으로는 GPU가 ...
