한인수 카이스트 교수도 연구 참여…분석가들 "장기적으로 메모리 시장에 긍정적" 구글 [로이터=연합뉴스 자료사진] (샌프란시스코=연합뉴스) 권영전 특파원 = 메모리 반도체 시장에 충격을 준 구글의 터보퀀트는 인공지능(AI) 모델의 메모리 사용량을 줄여주는 기술이다. 26일(현지시간) 구글 등에 따르면 터보퀀트는 정확도 저하 없이 모델의 크기를 극단적으로 축소하는 압축 기법을 이용해 AI의 메모리 사용량을 6분의 1로 줄였다. 챗봇을 비롯한 AI 모델은 추론하고 답변을 생성하는 데 사용자와의 이전 대화와 검색 결과 등 주요 맥락 정보가 필요하다.
대화가 오래 계속되면 메모리에 저장되는 맥락 데이터도 늘어나게 되고, 메모리 사용량도 그만큼 늘어나게 마련이다. 구글은 터보퀀트에서 이와 같은 맥락 데이터의 크기를 줄이는 '극좌표양자화'(폴라퀀트)와, 오차를 줄이는 'QJL'(양자화 존슨-린덴스트라우스 변환) 기술을 바탕으로 이 같은 성과를 거뒀다.
폴라퀀트 기술은 AI가 다루는 데이터의 구조...
