최근 인공지능(AI) 기술은 급격한 발전을 이루고 있습니다. 딥러닝, 머신러닝, 인공지능, Chat GPT는 동네 사람들 다 들어는 봤습니다.
인공신경망의 Layer가 deep한게 Deep learning이고, Training 시켜서 Model을 만들고, 사용자들은 Model에 입력을 넣고 추론된 결과 값을 받는겁니다. 자연어처리라는 Large Language Models(LLMs)과 같은 기술의 등장으로 AI는 이제 우리 일상생활의 많은 부분에 활용되고 있습니다.
하지만 이러한 AI 기술의 발전은 엄청난 양의 정보 처리를 필요로 합니다. 1) 대규모 AI 모델을 훈련시키기 위해서 2) 만들어진 AI 모델을 사람들이 사용하려면 막대한 정보와 정보 처리 능력이 필요하게 되겠죠? -> 이를 위해 엄청나게 많은 데이터센터가 지어지고 있습니다.
데이터센터는 아래처럼 생겼습니다. 이런 하나의 선반을 랙 이라고 부르고, 각 랙에 수십개의 인공지능 반도체 보드가 꽂혀있고, 그 안에 인공지능 반도...