AI와 관련된 보도 중 주의를 기울이게 되는 부분 중 하나가 ‘거짓말’에 관한 내용인 것 같습니다. 최근의 사례와 원인 및 해결 방안 및 규제들에 대해 정리해 봅니다.
Part 01: 생성형 AI의 환각 증상 사진 아시아 경제 할루시네이션 지난 달 구글의 새로운 검색 엔진 AI오버뷰Overview에는 생성형AI 제미나이Gemini가 탑재되었는데 사용자의 엉뚱한 질문에 잘못된 정보를 생성해 SNS상에서 논란이 일었습니다. “미국에 몇 명의 무슬림 대통령이 있느냐”는 질문에 “최초의 무슬림 미국 대통령은 버락 오바마”라고 답한 것입니다.
논란이 지속되자 결국 구글은 AI오버뷰의 출시 2주만에 서비스 축소를 결정합니다. 이번 사례와 같이 거대언어모델LLM 기반 생성형AI가 주어진 질문에 잘못된 정보를 생성하거나 맥락과 무관한 내용을 출력하는 것을 환각, 환영 등을 뜻하는 ‘할루시네이션Hallucination’이라 합니다.
Part 02: 거짓말을 하도록 설계된 AI 사진 앤스로픽 AI 스...
#
AI거짓말하는이유
#
샘올트먼과일리야수츠케버충돌
#
생성형AI거짓말
#
수퍼얼라인먼트팀해체
#
스칼렛조핸슨음성문제
#
슬리퍼에이전트
#
실리콘벨리개발자들의불안
#
악성코드
#
앤스로픽
#
앤스로픽악성코드
#
일리야수츠케버
#
전략시뮬레이션게임기술적배반
#
첨단AI에경고할권리
#
할루시네이션
#
백도어
#
메사추세추공과대MIT연구
#
AI시뮬레이션
#
AI오버뷰
#
AI오버뷰서비스축소
#
AI환각
#
CICERO
#
GPT4음성모드AI서비스안정성이슈
#
hallucination
#
LLM모델
#
LLM작화증
#
SLEEPERAGENT
#
거짓말하는AI
#
거짓말하도록설계된AI
#
디플로머시전략게임
#
할루시네이션대책
![맛있는 딸기! 수경재배 딸기! 금탑산업훈장 딸기 명장 행복딸기농원!경북농업명장딸기 [내돈내산]](https://mblogthumb-phinf.pstatic.net/MjAyNDAxMjFfMTQw/MDAxNzA1ODE4MDM3MzE3.tjMKIFuQP3kPcxzGFCgcs_d6wcNizqYy-Iyv5jGUo20g.vB9QxWfDpMI1o8lhH1PCq3vMSr0FIqwdID0N6CL406Yg.PNG.happychallote/Capture%2B_2024-01-12-16-07-19.png?type=w2)
