로딩
요청 처리 중입니다...

내 컴퓨터에서 돌아가는 강력한 AI: 로컬 LLM 구동의 필요성

 내 컴퓨터에서 돌아가는 강력한 AI: 로컬 LLM 구동의 필요성

안녕하세요. 회색뿔(grayhorn)입니다.

필자는 개발자를 꿈꾸며 성장하여 취직 후 첫 프로젝트가 IoT 관련 프로젝트였으며 최근 6 ~ 7년 동안은 AI와 관련된 프로젝트를 수행하며 간접적으로 AI의 발전을 들여다 볼수 있었습니다. 불과 2년 전만해도 LLM은 느리거나 거짓말하는 빈도가 높았으나 현재는 사용자의 질문에 상당히 높은 수준의 답변을 내놓고 있습니다.

개발 뿐만 아니라 과제나 프로젝트를 하다보면 처음 접하는 오픈소스를 빠르게 적용하여 활용 가능성을 확인해야 하는 경우가 많은데, 수 년 전만해도 야근을 하며 기한을 맞췄던 기억이 있습니다. 하지만 최근 ChatGPT, Gemini와 같은 LLM 서비스가 소개되고 빠르게 발전하면서 여러 분야의 진입 장벽을 허물거나 낮춰 버렸습니다.

특히 새로운 일을 시작할 때, LLM 서비스는 큰 도움을 주고 있기에 "어떤 서비스를 어떻게 이용할 것인가?" 만 선택하면 될 것 같습니다.

ChatGPT와 Gemini 각각 잘하는 것이 분명한...