AI 할루시네이션(Hallucination)이란? 'AI 할루시네이션(hallucination)'은 '환각'이나 '환영, 환청'을 뜻하는 영어 단어이며 어원은 라틴어 ‘hallucinari’에서 유래했으며, ‘정신이 방황하다·꿈을 꾸다·터무니없이 말하다’를 뜻합니다.
현대에는 AI가 사실과 다른 정보를 그럴듯하게 생성하는 현상을 가리키는 기술 용어로도 쓰이는데. AI가 사실처럼 보이지만 실제로는 존재하지 않거나 틀린 정보를 생성하는 현상입니다.
AI는 검색처럼 사실을 불러오는 게 아니라 학습 기반으로 가장 그럴듯한 다음 단어를 생성하기 때문에 발생합니다. 실제로 발생한 할루시네이션 사례 법률·자료 오류 미 연방법정 소송에서 AI가 만들어낸 부정확한 인용 Anthropic AI ‘Claude’가 논문 인용에서 잘못된 제목·저자를 생성해 소송 자료에 포함 → 변호사팀이 책임을 인정함.
AI 발명 판례·법령 오류로 법조계 위험 증가 보고 AI가 존재하지 않는 법령·판례를 생성, 법...
