STA, AI 디지털의료제품 레드팀 플랫폼 개발 착수

STA테스팅컨설팅, AI 디지털의료제품 레드팀 플랫폼 개발 착수 식품의약품안전처 산하 식품의약품안전평가원이 공모한 '2025년도 제1차 식품의약품안전처 출연 연구개발사업'의 핵심 과제인 'AI 기반 디지털의료제품 안전성·신뢰성 확보 기술 개발 연구' 과제에서 생성형 AI 디지털의료제품을 대상으로 한 레드팀 테스팅 체계 구축을 위한 연구가 본격 가동에 들어갔다. 3과제와 4과제가 상호 연계하여 진행하는 레드팀 테스팅 체계 구축 연구는 지난 6월 5일 개최된 킥오프 회의를 통해 본격적인 연구에 착수했다. 한국전자통신연구원(ETRI)이 주관하는 3과제에서는 레드팀 테스팅 관련 프로세스 및 체계 개발을 담당하며, (주)STA테스팅컨설팅이 주관하는 4과제에서는 이러한 체계를 실제 현장에 적용할 수 있는 레드팀 플랫폼 개발을 맡는다.

레드팀 테스팅은 첨단 AI 기반 시스템 검증에 널리 활용되는 검증 방법론으로, AI 시스템의 취약점과 잠재적 위험요소를 사전에 발견하고 대응방안을 마련하는 데 핵...