AI가 전기 먹는 하마라고 불리는 데는 다 이유가 있다. 컴퓨터를 켜두는 수준이 아니라, 상상 이상의 에너지가 들어가는 거대 공장이기 때문!
왜 그렇게 전력이 많이 필요한지, 핵심적인 이유 3가지를 쉽게 정리했다. 미국 AI 데이터센터 냉각 관련주 1.
두뇌(GPU)의 엄청난 연산량 우리가 일상에서 쓰는 일반 PC는 문서를 읽거나 인터넷 서핑을 하는 정도의 가벼운 일을 하지만 AI는 수조 개의 데이터를 동시에 분석하고 계산해야 하기에 차원이 다르다. AI의 심장이라 불리는 엔비디아의 H100 같은 고성능 GPU는 소모 전력이 어마어마합니다.
칩 단 하나가 쓰는 전력이 가정용 에어컨을 풀가동하는 것과 맞먹는 수준이라면 믿어지시나요? 구글 검색 한 번에 들어가는 전기보다, 챗GPT나 제미나이에게 질문 하나를 던졌을 때 소모되는 전기가 최소 10배에서 많게는 70배까지 많다.
우리가 무심코 던지는 질문 하나가 스마트폰을 2~3분간 완충할 수 있는 에너지를 쓰고 있는 셈이죠. 2. 열과의 ...