gpt ai 거짓판례 할루시네이션 판례 쓰다가 망합니다

AI가 똑똑해 보이지만 판례를 지어내는 현상, 이른바 환각(Hallucination)으로 인해 가짜 판례가 만들어지는 사례가 늘고 있다. 텍스트를 논리적으로 이어 붙여 그럴싸한 문장을 생성하지만 실제 존재하는 판례인지 여부는 전혀 검증되지 않는다는 점이 문제로 지적된다. 최근에는 대구지법 영덕지원에서 한 당사자가 AI가 지어낸 허위 사건번호를 제출했다가 재판장이 지적했고, 가짜 판례가 판결문에 남는 일이 있었다.

일반인과 전문직 모두 이러한 오류에 취약하며, 판사를 속이려는 의도는 더 큰 문제로 여겨진다. 인천지법에서도 무려 5년 차 변호사가 AI가 쓴 가짜 사건번호를 제출했다가 재판부로부터 공개적 질타를 받는 사례가 확인되었다. 실수로 받아들여질 가능성은 낮고, 재판부의 시선은 엄격하게 적용된다.

가짜 판례를 낸 경우의 제재도 강화된다. 과태료와 소송비용의 부담은 물론, 변호사 징계 가능성도 크게 높아지며, 진술 제한 및 판결문에 남는 꼬리표 등 장기적 불이익이 뒤따른다. 현재 법원은 2026년 2월부터 가짜 판례를 실시간으로 걸러내는 검증 시스템을 가동 중이며, 2026년 3월 31일 자로 제재 방안이 더욱 구체화되었다. 이제 소송은 검색이 아니라 통찰이 필요하다는 인식이 확산된다.