LLM 취약점을 진단해 보자 (1) - 개요와 진단 기준

"이 보고서 요약해 줘" 요즘 누구나 쉽게 접근할 수 있는 AI 서비스가 일상에 깊숙이 들어오고 있습니다. 저 역시 개발 과정에서 코드 작성, 문서 정리, 테스트 자동화 등 다양한 분야에 LLM(대규모 언어 모델)을 적극적으로 활용해왔어요.

그런데 한편으로, 이런 편리함 속에 숨겨진 보안 취약점이 점점 눈에 들어오기 시작했습니다. 과거 웹 취약점의 대표격이었던 SQL Injection이 이제는 Prompt Injection라는 이름으로 변형되어 LLM에 적용되고 있더군요.

실제 여러 프롬프트 인젝션 사례를 살펴보니, 단순한 기술적 해킹이 아니라 심리적인 설득과 사회공학적 요소까지 결합되어 있다고 느꼈습니다. 마치 대화를 하다 보면 서서히 잘못된 길로 이끌리는 느낌..

"최면"과 비슷한 느낌을 받았어요.. 그래서 LLM을 대상으로 나만의 진단 기준을 정리하고, 그 기준으로 실제 점검을 진행해 봤습니다.

다음 세 가지 문서를 참조했습니다. OWASP LLM Top 10 : 전 세계적으로...