[AI-POT] 생성AI - 인공지능의 주요 리스크와 대응 전략

ChatGPT, Gemini, DALL·E, Midjourney 등 생성형 AI는 기업, 교육, 창작 등 다양한 분야에서 혁신을 일으키고 있습니다. 그러나 동시에 다음과 같은 심각한 리스크들도 함께 부상하고 있습니다.

존재하지 않는 정보를 실제처럼 생성하는 환각성 정보 인종·성별 등 민감 주제에 대한 편향성 개인정보 유출, 저작권 침해, 법적 책임 회피 등 이번 글에서는 생성형 AI를 활용하는 모든 사용자가 이해해야 할 기술적·윤리적·법적 리스크와 그 대응 전략을 정리하였습니다. 1. 기술적 리스크 ① Hallucination (환각) 존재하지 않는 정보를 그럴듯하게 생성 예시) 실제 존재하지 않는 논문, 법령, 인물 이름 등을 자신 있게 출력 대응 전략) RAG 적용, 다중 소스 교차 검증 팩트체크 API 연동 (예: Google Fact Check Tools) Human-in-the-loop 기반 검토 절차 강화 ② 편향(Bias) 학습 데이터의 편중으로 인해 특정 인종, 문화,...