챗지피티나 바드, 그리고 빙챗등 대화형 인공지능 AI 엄청난 장점에도 불구하고 LLM의 가장 큰 단점. 답을 모르더라도 아는 것처럼 틀린 대답을 내놓을 때가 많습니다.
바로 할루시네이션 (Halucination) 한글로는 환각 증상이라고 하는데요, 그래서 챘지 피티 등의 대화형 챗봇의 결과물의 신뢰도를 확인하는 것이 중요했어요. 그런데 이번에 구글의 연구진들이 신뢰도를 높일 수 있는 방법을 개발해 냈다고 하는데 기사 내용을 살펴볼까요?
구글 ASPIRE 개발 구글 연구진은 인공지능(AI)에 "모른다(I don’t know)"라고 말하게 하는 새로운 방법,'어스파이어(ASPIRE)'를 개발했습니다. 이 방식은 대형 언어 모델(LLM)이 질문에 대한 답변을 제공할 때 확신의 정도를 표현하는 것으로, AI와의 상호 작용을 더 신뢰할 수 있게 만들기 위한 것입니다.
어스파이어는 LLM이 답변과 함께 답변이 맞을 확률을 나타내는 신뢰도 점수를 출력합니다. 이를 통해 사용자는 신뢰도 점수에 따...
#
AI
#
Aspire
#
chatgpt
#
구글
#
바드
#
빙챗
#
환각현상
![[맛점] 동성로 파스타부오노](https://mblogthumb-phinf.pstatic.net/MjAyMTA2MDFfMTYg/MDAxNjIyNTU1MzYyNjA5.eEFopYTqzCOfQlckfr4RJ0XCK-SgDlMkUye6bb-PlBEg.kFPWMWpgJkmhSeInSaKdvCDBQZhXg55_a4hvdo08q3Ag.JPEG.valla_bomm/20210601_122254.jpg?type=w2)
