AI가 가진 ‘기억’이라는 개념을 해석하는 구글의 연구: Titans + MIRAS 이론 예전 포스팅에서 한번 설명드린 적이 있는 구글의 ‘Titans’는 기존 트랜스포머(Transformer)가 긴 문맥을 처리할 때 겪는 ‘계산량 폭증과 기억 소실 문제’를 해결하기 위해 만들어진 새로운 신경망으로, 어텐션(attention) 메커니즘은 단기 기억처럼 사용 contents.premium.naver.com 예전 포스팅에서 한번 설명드린 적이 있는 구글의 ‘Titans’는 기존 트랜스포머(Transformer)가 긴 문맥을 처리할 때 겪는 ‘계산량 폭증과 기억 소실 문제’를 해결하기 위해 만들어진 새로운 신경망으로, 어텐션(attention) 메커니즘은 단기 기억처럼 사용하면서 별도의 신경망 기반 메모리를 장기 기억처럼 활용하는 구조입니다. 쉽게 말해 지금 보고 있는 내용은 빠르게 처리하되, 정말 중요하다고 판단되는 정보는 따로 저장해 두고 나중에 다시 꺼내 쓸 수 있도록 만든 설계입니...
