[6월7일 IT뉴스] 에이전틱 AI 위험 HITL착각, 국민 AI서비스 TF 신설

HITL와 HOTL 구분이 인공지능 발전의 방향성과 거버넌스 리스크를 재정의하는 중심으로 부상하고 있다. HITL은 인간이 결정 과정에 개입하는 방식이나, 실제로는 인공지능이 결정의 주도권을 가지면서 인간은 형식적 확인이나 승인에 그치는 구조로 확산될 우려가 커진다. 이로 인해 인간의 통제력은 약화되고 거버넌스 공백이 생길 수 있으며, 인공지능이 검증 불가능한 결정 과정을 내리는 문제, 이의 제기나 중단 권한의 불명확성, 최종 책임 주체의 불투명성 등이 주요 리스크로 지적된다. 반면 HOTL은 인공지능이 먼저 결정을 내린 뒤 인간이 형식적 승인을 하는 형태로 이해되지만, 실제로는 인간 개입이 점차 축소되고 결정 주도권이 AI로 넘어가는 경향이 확산될 수 있다. 따라서 기업은 AI 거버넌스를 재설계해 책임 주체를 명확히 하고, 기록 체계를 구축하는 등 통제 장치를 강화하는 방향이 필요하다는 제언이 제시된다. 또한 인간의 역할은 단순한 승인자가 아닌 최종 판단자로 재정의하고, AI의 통찰을 활용하되 책임 구조를 명확히 설계하는 인간 중심의 시스템 확보가 강조된다. 운영 체계 측면에서는 인공지능 결정 과정을 검토하고 책임을 기록하는 체계를 보다 정교하게 갖추며 필요시 결정 중단과 수정이 가능하도록 프로세스를 마련하고, 인간 전문가의 판단 능력이 유지될 수 있도록 실질적 개입 보장이 필요하다고 제시된다. 종합적으로 인공지능 발전은 결정 구조를 근본적으로 변화시키며, 형식적 인간 개입이 아닌 실질적 통제가 요구된다. AI 거버넌스는 기업 경쟁력의 핵심이 되며, 인간 중심의 설계가 더욱 중요해진다는 점이 강조된다.

또한 공공 분야에서는 공공 AI 서비스 개발의 신속성을 높이기 위한 민간 주도 조직 도입이 추진된다. 정부는 영국 GDS 모델을 벤치마킹한 국민 AI서비스 추진 TF를 신설하고, 민간 전문가를 최대 100명 채용하는 등 실행 중심의 조직으로 전환한다. 조직은 과기정통부를 중심으로 발전 방향을 정하고, 공공 시스템의 거버넌스와 개발을 총괄하는 원스톱 역할을 수행한다. 신속 대응이 필요한 AI 기반 서비스의 개발을 중심으로 하되, 기존 발주 체계와의 병행 운영을 허용한다. 기대 효과로는 공공 서비스 개발 속도의 대폭 향상과 AI 기반 행정 효율성의 강화, 민간 기술 도입을 통한 혁신 가속화가 제시된다. 종합적으로 실행 중심의 공공 AX 추진은 공공 시스템 개발 패러다임을 계획 중심에서 실행 중심으로 전환하고, 국가 차원의 행정 경쟁력을 강화하는 신호탄으로 해석된다.