https://owasp.org/www-project-top-10-for-large-language-model-applications/assets/PDF/OWASP-Top-10-for-LLMs-2023-v1_1.pdf의 번역 자료입니다. Description LLM(대규모 언어 모델)의 공급망은 취약할 수 있으며, 이는 훈련 데이터, 머신러닝 모델, 배포 플랫폼의 무결성에 영향을 미칠 수 있습니다.
이러한 취약성은 편향된 결과를 초래하거나 보안 침해, 심지어 시스템 전체의 실패로 이어질 수 있습니다. 전통적으로는 소프트웨어 구성 요소에 중점을 두고 취약성을 다뤄왔지만, 머신러닝은 타사에서 제공하는 사전 훈련된 모델과 훈련 데이터까지 확장되며, 이들은 변조나 Data Poisoning 공격에 노출될 수 있습니다.
마지막으로, LLM 플러그인도 자체적인 취약성을 가져올 수 있습니다. 이러한 취약성은 LLM07 - 안전하지 않은 플러그인 설계에서 설명되어 있으며, LLM 플러그인을 작성하...
#
LLM
#
OWASP
#
SupplyChain
