할루시네이션과 치매

#할루시네션과치매 할루시네이션의 주요 원인 문맥 상실 (Context Window Loss): 모델이 한 번에 처리할 수 있는 정보의 양에는 한계가 있습니다. 대화가 길어지면 모델은 초반의 중요한 대화 내용을 '잊어버리고' 최신 정보에만 집중하게 됩니다.

이 과정에서 앞서 나온 사실과 모순되는 새로운 내용을 만들어낼 수 있습니다. 잘못된 패턴 학습: 모델은 방대한 데이터 속에서 단어들의 통계적 패턴을 학습합니다.

때때로 특정 패턴이 비정상적으로 강화되면, 실제 사실과 관계없이 해당 패턴을 따라가는 내용(예: 특정 날짜에 대한 잘못된 정보 반복)을 생성할 수 있습니다. 모순되는 정보: 사용자가 대화 중간에 모순되는 정보를 제공하면, 모델은 어느 쪽이 맞는지 판단하지 못하고 혼란을 겪으며 잘못된 정보를 생성할 가능성이 높아집니다.

결론적으로, 대화의 문맥이 길어지고 복잡해질수록 모델이 잘못된 정보를 만들어내는 할루시네이션 현상이 발생할 위험이 커집니다. 치매의 발생 원인 인간의 치매는 ...