의료 AI, 실전으로 검증…식약처 '첨단AI 디지털 의료제품 레드팀 챌린지' 성공적 완료

레드팀 챌린지 전체 참가자 기념촬영 의료 AI, 실전으로 검증…식약처 '첨단AI 디지털 의료제품 레드팀 챌린지' 성공적 완료 서울 동대문 노보텔 앰배서더 그랜드볼룸에서 지난 4~5일 열린 '첨단AI 디지털 의료제품 레드팀 챌린지 및 기술 워크숍'이 성황리에 마무리됐다. 식품의약품안전처가 주최하고 한국전자통신연구원(ETRI), 분당서울대병원, STA테스팅컨설팅, 한국화학융합시험연구원(KTR)이 공동 주관한 이번 행사는 의료 분야에서 본격적인 AI 레드팀 챌린지를 표방한 첫 시도로, 개발·규제·의료 현장을 한자리에 모아 안전성과 신뢰성을 실전 방식으로 점검했다. 4일 개최한 레드팀 챌린지에는 47개 팀, 100여 명이 참가했다.

이번 챌린지 행사에서 챌린지 참가자들은 국내외 주요 기업이 개발한 8종 이상의 거대언어모델(LLM)을 대상으로 모의공격을 수행했다. 목표는 단순한 '모델 공격'이 아니라, 의료제품에 적용될 AI가 실제 환경에서 얼마나 안전하고 믿을 수 있는지 확인하는 것이었다....