LLM04: Model Denial Of Service

https://owasp.org/www-project-top-10-for-large-language-model-applications/assets/PDF/OWASP-Top-10-for-LLMs-2023-v1_1.pdf의 번역 자료입니다. Description LLM(대규모 언어 모델)과 상호작용하는 공격자가 비정상적으로 많은 자원을 소비하는 방식으로 접근하면, 이로 인해 자신과 다른 사용자들의 서비스 품질이 저하될 뿐만 아니라, 높은 자원 비용이 발생할 수 있습니다.

더 나아가, 공격자가 LLM의 컨텍스트 윈도우에 간섭하거나 이를 조작할 가능성은 주요 보안 문제로 떠오르고 있습니다. 이 문제는 LLM이 다양한 애플리케이션에서 점점 더 많이 사용되고, 자원 소비가 많은 특성과 사용자 입력의 예측 불가능성, 그리고 개발자들이 이 취약성에 대해 일반적으로 인식하지 못하는 상황으로 인해 더욱 심각해지고 있습니다.

LLM에서 컨텍스트 윈도우는 모델이 관리할 수 있는 텍스트의 최대 길이를 의미...