인간의 통제 명령을 거부한 OpenAI의 o3 모델, 점점 심각해지는 AI 안전 우려 미국 캘리포니아주 마운틴뷰에 본사를 둔 ‘Palisade Research’는 인공지능의 잠재적 위험성을 집중적으로 연구하는 비영리 기관입니다. AI 기술이 비약적으로 발전하고 있는 지금, 이들은 단순한 기술 혁신을 넘어 사회적·정치적 파급 효과, 특히 “AI의 오용, contents.premium.naver.com 미국 캘리포니아주 마운틴뷰에 본사를 둔 ‘Palisade Research’는 인공지능의 잠재적 위험성을 집중적으로 연구하는 비영리 기관입니다.
AI 기술이 비약적으로 발전하고 있는 지금, 이들은 단순한 기술 혁신을 넘어 사회적·정치적 파급 효과, 특히 “AI의 오용, 해킹, 조작 및 설득 기술이 불러올 수 있는 위협”에 경고음을 울리고 있습니다. Palisade Research는 실제로 Llama 2-Chat 70B 모델의 안전장치를 200달러 미만의 비용으로 우회하는 데 성공했고, 이 ...
