동영상 생성 AI의 '환각(Hallucination)' 문제

LLM(대형언어모델)의 환각 문제는 널리 알려져 있습니다. 추론 AI에서 환각 문제가 다소 약화되기는 했지만 현존 AI 알고리즘의 특성 상 근본적인 극복은 불가능합니다.

LLM과 마찬가지로 동영상 생성 AI 역시 비슷한 문제를 겪고 있습니다. 동영상 생성 AI에서 나타나는 오류를 흔히 '환각'이라 부르지는 않지만, 사실 LLM의 환각과 발생 원인은 같습니다.

AI가 억지로 답변을 내놓는 과정에서 잘못된 정보를 포함해 출력하기 때문입니다. 이 잘못된 정보를 사람은 쉽게 알아차릴 수 있지만 AI는 알아차리지 못합니다.

언어나 이미지보다 동영상이 유독 어려운 이유 동영상은 언어나 이미지보다 다루어야 할 데이터의 양이 압도적으로 많기 때문에 어려운 것이 당연합니다. 그리고 데이터의 양이 폭증한 것은 '시간'이라는 축이 더해졌기 때문입니다.

언어가 1차원, 이미지가 2차원이라면, 동영상은 3차원입니다. 동영상의 일관성이 장시간 유지되지 않는 문제, 즉 주인공의 얼굴이 수시로 다른 사람으로 변...