로딩
요청 처리 중입니다...

LLM을 쓰다 보니 이름들이 쌓여서 적어본 메모

 LLM을 쓰다 보니 이름들이 쌓여서 적어본 메모

요즘 LLM 관련 도구들을 보다 보니 정리가 좀 필요해졌다. LangChain, Semantic Kernel, LangGraph, LlamaIndex… 처음엔 "다 비슷한 거 아냐?"

싶었는데, 막상 뜯어보니 역할이 미묘하게 다르다. 공통점이라면 전부 'LLM을 한 번 호출하고 끝내는 방식'에서 벗어나려는 시도라는 것.

프롬프트 던지고, 응답 받고 끝. 이 패턴은 생각보다 금방 한계가 온다.

왜 이런 도구들이 필요할까? 이전 맥락을 계속 써야 하고, 외부 데이터랑 섞어야 하고, 여러 단계를 거쳐야 할 때가 많아지면 LLM 호출 자체보다 '그걸 어떻게 엮을지'가 더 큰 문제가 된다.

이 고민을 해결하려고 나온 게 지금의 프레임워크들이다. 내가 느낀 도구별 인상 1.

LangChain: 흐름을 엮는 데 집중 프롬프트 → 호출 → 결과 처리 → 다음 단계. 이걸 하나의 '체인'처럼 코드로 정리하려는 쪽에 가깝다.

처음엔 "이걸 꼭 라이브러리로?" 싶다가도, 단계가 복잡해지면 왜 쓰는지 알...