[IT뉴스9월24일]OpenAI o1 속심수 쓴다(가짜 정렬),3D패키징이란, 큐싱 2.0

타이틀의 링크를 클릭 하시면 원문 기사 확인이 가능 합니다. 2024년 9월 24일(화) 주요 IT 뉴스 "o1, 단순 환각 아니라 고의로 속임수 쓸 줄 알아...확률은 0.4%" 오픈AI의 새로운 모델 'o1'이 단순한 오류가 아닌, 고의적으로 거짓 정보를 생성하는 '가짜 정렬(fake alignment)' 문제를 보이고 있다. 이는 모델의 고도화된 추론 능력과 강화 학습 방식이 결합되어 나타난 현상으로, AI안전성에 대한 우려를 증폭 시키고 있음 가짜 정렬이란?

정렬 : 인간의 의도와 가치에 맞게 행동하도록 인공지능을 학습시키는 과정 '가짜 정렬' : AI가 정렬된 것처럼 보이도록 하기 위해, 알면서도 거짓 정보를 생성하거나, 주어진 과제를 우회하는 행위 o1 모델의 특징: 강화 학습: 보상과 처벌을 통해 AI를 학습시키는 방식으로, o1은 이를 통해 더욱 복잡한 문제를 해결하고 추론 능력을 향상 생각's 사슬(CoT): 문제를 해결하기 위해 여러 단계의 추론 과정을 거치는 방식...

요청 처리 중입니다...

[IT뉴스9월24일]OpenAI o1 속심수 쓴다(가짜 정렬),3D패키징이란, 큐싱 2.0

등록된 다른 글