쳇 GPT, 재미 나이가 소설을 쓴다? AI 환각 문제

요즘 쳇지피티(Chatgpt0 나 재미나이(gemini) 같은 생성형 AI와 대화 하다 보연, 너무나 당당하게 틀린 정보를 말해서 당황스러울 때가 있죠? 분명히 모르는 내용 일 텐데, 마치 옆에서 본 것처럼 생생하게 거짓말을 하는 이 현상!

오늘은 AI의 고질적인 문제인 환각(hallucination)이 왜 발생하는지, 특히 어떤 상황에서 심해지는지 자세히 알아보겠습니다. 1.AI 환각이란? AI 환각은 인공지능이 질문에 대해 사실이 아닌 내용을 마치 사실인 것처럼 그럴싸하게 답변하는 현상을 말합니다.

AI는 지식을 이해하는 게 아니라 "다음에 올 확률이 높은 단어"를 조합하는 방식이기 때문에 발생하는 일종의 확률적 오류입니다. 2. 자료가 없을수록 더 심해지는 이유 사용해 보신 분들은 느끼셨겠지만, AI는 학습 데이터에 없는 정보가 나오면"모른다"라고 하기보다 자신이 가진 다른 데이터를 조합해 그럴듯한 연결고리를 억지로 만들어냅니다.

희귀 정보의 함정:유명한 역사나 과학 상식은 데...