LLM02: Insecure Output Handling

https://owasp.org/www-project-top-10-for-large-language-model-applications/assets/PDF/OWASP-Top-10-for-LLMs-2023-v1_1.pdf의 번역 자료입니다. Description 불안전한 출력 처리(Insecure Output Handling)는 대규모 언어 모델(LLM)이 생성한 출력물이 다른 구성 요소나 시스템으로 전달되기 전에 충분한 검증, 정화, 처리 과정을 거치지 않는 것을 의미합니다.

LLM이 생성한 콘텐츠는 프롬프트 입력에 의해 제어될 수 있으므로, 이는 사용자에게 간접적으로 추가 기능에 접근할 수 있는 권한을 제공하는 것과 유사합니다. 불안전한 출력 처리(Insecure Output Handling)는 LLM이 생성한 출력물이 하위 시스템으로 전달되기 전에 처리하는 문제를 다루는 반면, 과도한 의존(Overreliance)은 LLM 출력물의 정확성과 적절성에 대한 과도한 신뢰에 관한 더 광...