1보다 작은 칩으로 LLM 초전력 구현 기술 개발!

안녕하세요 다겸입니다. 국내 반도체 시장이 급속도로 성장하고 있습니다.

최근에는 국내 연구진이 1보다도 작은 AI반도체 칩으로 거대 언어 모델(LLM)을 초전력으로 구현할 수 있는 기술을 세계 최초로 개발했다고 해서 화제가 되었습니다. KAIST PIM반도체 연구센터와 AI반도체 대학원 유회준 교수 연구팀이 '상보형-트랜스포머'를 세계 최초로 개발한 것인데요, 400밀리와트 초저전력을 소모하면서 0..4초 초고속으로 LLM을 처리할 수 있는 것입니다.

원래 GPT와 같은 LLM은 다량의 GPU와 250와트의 전력소모가 피룡한데, 이번 연구팀은 작은 AI반도체 칩 상에서도 초저전력으로 구현시킬 수 있도록 개발에 성공했습니다. 기존 뉴로모픽 컴퓨팅 기술에서 정확도를 끌어올리고, 여러 가지 분야에 응용 적용할 수 있는 상보형-심층신경망(C-DNN)을 제안했죠.

인간의 뇌가 생각을 많이 할 때 에너지소모가 많은 것처럼 뉴럴 네트워크는 뇌를 모방했기 떄문에 입력값의 크기가 크면 전력을 많이 ...