tom's hardware에 따르면, 스스로를 화이트햇 해커이자 AI 레드팀원이라고 칭하는 트위터 사용자 '프롬프터 플리니'는 수요일에 'GODMODE GPT'를 공개했습니다. 플리니는 OpenAI의 커스텀 GPT에디터를 사용하여 새로운 GPT-4o 모델에 모든 제한을 우회하는 메세지를 표시하여, 쳇봇이 욕설이나 네이팜탄 만들기 등 위험한 명령을 받아들일 수 있도록 했습니다.
그러나, 곧 OpenAI에 알려졌습니다. 이 탈옥 행동은 처음 게시된 지 불과 몇 시간만에 쳇GPT 웹사이트에서 삭제되었습니다.
사용자들은 더 이상 접속할 수 없지만, 플리니의 스레드에는 여전히 이와 관련된 스크린샷이 남아 있어, 탈옥의 흔적을 확인할 수 있습니다. 이 탈옥은 특정 문자를 숫자로 대체하는 구식 인터넷의 속어인 "LeetSpeak"를 사용하며 작동하는 것으로 보입니다.
플리니의 스크린샷을 보면 한 사용자가 GODMODE "M_3_T_Howmade"를 GPT에 요청하면, "ur3, h3r3 y0u ...
#
chatgpt
#
gpt
#
gpt4o
#
쳇gpt
#
해킹
