AI, 클라우드를 벗어나다 1년 전만 해도 고급 AI는 클라우드에서만 돌아갈 거라고 생각했다. 하지만 최근 상황이 완전히 바뀌고 있다.
PC나 스마트폰에서도 고급 AI 구동이 가능해질 전망이다. 특히 추론 기반 애플리케이션은 올해부터 디바이스에서 직접 실행될 수 있을 것 같다.
이런 변화는 AI 모델 배포 방식부터 앱 설계, 반도체 요구사항, 데이터 저장 방식까지 거의 모든 것을 바꿀 것으로 보인다. 소형 언어 모델의 약진 18개월 전부터 소형 언어 모델(SLM)이 등장하기 시작했다.
마이크로소프트(Microsoft, MSFT)의 파이, 메타(Meta, META)의 라마 8B 같은 모델들이다. 이 모델들은 처음부터 제한된 메모리와 처리 능력을 고려해 설계됐다.
GPT4 같은 대형 모델의 능력은 아니지만, 특화된 용도에서는 꽤 인상적인 성능을 보여준다. 특히 마이크로소프트는 올해 코파일럿+ PC에 파이 모델을 탑재할 예정이다.
웹 연결 없이도 고품질 텍스트와 이미지를 생성할 수 있게 ...
#
chatgpt
#
GPT
#
LLM
#
LLM관련주
#
SLM
#
SLM관련주
#
미국주식
#
온디바이스AI
#
온디바이스AI관련주
