인공지능(AI) 기반의 악성 프롬프트에 대한 새로운 연구 결과가 나와 논란이 되고 있습니다. 최근 IT매체인 테크레이더가 발표한 보고서에 따르면 생성형 AI 중 챗GPT와 제미나이가 악성 프롬프트에 취약한 것으로 나타났습니다. 이는 해커들이 AI를 통해 '무한 변신' 악성코드를 개발한다는 것을 의미합니다.

한편, 보안 기업인 파이어테일은 제미나이와 같은 일부 인공지능 에이전트가 ASCII 스머글링을 활용한 새로운 취약성을 확인했으며, 이에 대한 보안 대책을 강구하고 있습니다. 이러한 취약점을 이용하여 공격자들이 AI를 통해 프롬프트를 활용할 수 있다는 우려가 제기되고 있습니다.

구글의 제미나이로 연결 신호를 보내는 코드를 발견한 바이러스 포털에 따르면, 구글은 이를 통해 프롬프트플럭스라는 악성코드를 찾아냈으며, 악성코드는 실행 중 스스로 코드를 다시 쓰는 기능을 보여주고 있습니다. 이로써 해커들이 이제는 인공지능을 통해 스스로 생각하고 변형할 수 있는 악성코드를 만들고 있음이 드러나고 있습니다.

또한, 프롬프트웨어가 제미나이 에이전트의 악성 활동을 촉발하여 다른 애플리케이션까지 침입할 수 있는 가능성이 제기되고 있습니다. 따라서 사용자들은 AI 기반의 악성코드에 대한 증강된 주의가 필요하다는 것을 강조하고 있습니다.

요약하자면, 최근 AI를 통해 제작되는 악성 프롬프트들이 취약점을 통해 발전하고 있으며, 이로 인해 보안 측면에서 모니터링과 대비가 필요하다는 경각심이 커지고 있습니다. 사용자들은 AI에 대한 이해와 주의를 기울여야 할 시기가 되었다는 점을 명심해야 합니다.