LLM 환각 연구: 정답을 알면서도 다른 답을 내놓는 AI의 딜레마

“대형 언어 모델(LLM)의 환각 문제는 단순한 오류가 아닙니다. 최근 연구들은 AI가 정답을 떠올리면서도 표현 단계에서 다른 답을 내놓는 이유, 그리고 평가 구조가 환각을 부추기는 방식을 보여줍니다" LLMs Know More Than They Show: On the Intrinsic Representation of LLM Hallucinations (Technion, ICLR 2025), Why Language Models Hallucinate (OpenAI, 2025) LLM 환각 연구: 정답을 알면서도 다른 답을 내놓는 AI의 딜레마 겉보기에 완벽하지만 허점을 보이는 AI AI는 때로는 확신에 차서 대답하지만, 실제로는 틀린 경우가 많습니다.

이런 모습 때문에 사람들은 “AI도 허점투성이일 뿐”이라고 치부하곤 합니다. 하지만 연구자들은 한 걸음 더 나아가, 단순히 AI가 모자라서 틀리는 것이 아니라 정답을 내부적으로는 알고 있으면서도 다른 답을 말하는 현상에 주목했습니다.

이...