미국 플로리다 주정부가 오픈AI를 상대로 제기한 소송은 생성형 AI의 안전성 문제를 법적 책임 논쟁의 중심에 올려놓았다. 주정부는 챗GPT의 구조적 위험성을 인지하고도 이를 은폐한 채 공격적으로 마케팅을 펼쳤다고 주장하며, 플랫폼의 데이터 통제와 안전 인프라 의무를 집중적으로 다툰다. 더불어 플로리다주립대 총기 사건과 10대 약물 복용 사망 사건의 피해자 유족들도 챗GPT가 범죄와 약물 남용 과정에서 구체적 정보를 제공해 치명적 결과를 초래했다고 보며 손해배상을 청구했다. 이들 소송은 생성형 AI가 단순한 알고리즘 결함을 넘어 사회적 위험을 외부화하는 구조를 지닌다고 지적한다.
핵심 논점은 AI 플랫폼의 답변 필터링 및 안전 인프라가 아직 충분히 최적화되지 않았다는 것이다. 기존의 검색 엔진과 달리 대화형 챗봇은 맥락에 맞춘 자연스러운 응답을 만들어내며, 악의적이거나 취약한 의도를 가진 질문에도 맞춤형 정보를 제공할 위험이 있다. 원고 측은 시장 점유율 확대를 우선한 개발 및 출시 속도 탓에 부작용을 제어할 안전장치와 알고리즘 검열 체계가 충분히 마련되지 않았다고 본다. 이로 인해 안전성의 공백이 사회적 피해로 확산될 수 있다는 지적이 제기된다.
이번 법적 공방은 향후 글로벌 플랫폼 기업이 생성형 AI와 관련해 부담해야 할 법적 책임의 범위를 결정하는 기준이 될 전망이다. 기존의 인터넷 플랫폼이 사용자 생성 콘텐츠에 한정된 제한적 책임에서 벗어나, AI가 데이터를 직접 조합해 출력하는 구조에 대해 더 엄격한 규제가 적용될 가능성이 커진다. 따라서 주요 IT 기업들은 AI 모델의 안전성 검증과 데이터 통제 인프라를 고도화하는 방향으로 막대한 자원을 투자하는 전략을 강화할 것으로 보인다. 이러한 흐름은 생성형 AI의 혁신 속도와 사회적 안전망 구축 사이의 균형을 재정의하게 될 것이다.
