LLM01: Prompt Injection

https://owasp.org/www-project-top-10-for-large-language-model-applications/assets/PDF/OWASP-Top-10-for-LLMs-2023-v1_1.pdf의 번역 자료입니다. Description Prompt Injection은 공격자가 조작된 입력을 통해 대규모 언어 모델(LLM)을 조작하여 LLM이 공격자의 의도를 무의식적으로 실행하게 만드는 경우에 발생합니다.

이는 시스템 프롬프트를 직접적으로 "탈옥(jailbreaking)" 하거나 조작된 외부 입력을 통해 간접적으로 이루어질 수 있으며, 잠재적으로 데이터 유출, 사회 공학적 공격 및 기타 문제로 이어질 수 있습니다. Direct Prompt Injection: 직접 프롬프트 인젝션, 또는 "탈옥(jailbreaking)"이라고도 불리는 공격은 악의적인 사용자가 기본 시스템 프롬프트를 덮어쓰거나 노출시킬 때 발생합니다.

이를 통해 공격자는 LLM을 통해 접근할 수 ...