[11월4일]LLM 사이버 범죄에 악용 가능(프롬프트 인젝션), AI레드팀

타이틀의 링크를 클릭 하시면 원문 기사 확인이 가능 합니다 2025년 11월 4일(화) 주요 IT 뉴스 "LLM, 사이버 범죄에 악용 가능"...빅테크, AI 보안 취약점 해결 집중 프롬프트 인젝션 구글·오픈AI·앤트로픽·MS 등 주요 빅테크 기업들이 초거대 언어모델(LLM)의 보안 취약점 대응을 강화하고 있다. 특히 ‘간접 프롬프트 인젝션(Indirect Prompt Injection)’이라 불리는 공격이 주요 위협으로 부상했다.

간접 프롬프트 인젝션 위협 공격자는 웹사이트나 이메일에 숨겨진 명령어를 통해 LLM이 비인가 데이터를 노출하거나, 내부 정보를 유출하도록 유도. LLM은 명령을 따르도록 설계돼 있어, 합법 명령과 악성 입력을 구분하지 못하는 구조적 한계 존재.

이로 인해 모델의 안전장치를 우회하거나 무력화하는 공격이 가능함. 빅테크의 대응 현황 앤트로픽: 외부 테스터 협력 및 인공지능 기반 탐지 도구 활용, 모델 ‘클로드(Claude)’ 보안 강화 중.

구글 딥마인드...