AI 환각 막고 정확도 높이는 'RAG'와 'AI레드팀'

생성형 AI 활용이 늘어나면서 욕설이나 환각 현상 등의 문제점을 예방하고 정확도를 높이기 위한 '검색증강생성(Retrieval-Augmented Generation, RAG)' 기술, 'AI 레드팀'이 주목받는다. 일반적으로 레드팀은 소프트웨어(SW) 보안 강화 역할을 하는 팀이다.

실제 사이버 공격처럼 자사 SW를 직접 해킹해 취약점을 분석하기도 한다. 도출한 연구 결과를 SW 개발자에게 전달해 보안 강화 대책을 세우는 작업을 돕는다.

AI 레드팀은 여기서 한발 더 나아간다. SW 취약점 찾는 것뿐 아니라 인공지능 제품에 대한 윤리성, 신뢰성 향상을 위한 연구까지 진행한다.

인공지능이 유해한 결과물을 생성하지 않도록 하기 위해서다. 기업들은 글로벌 거대언어모델(LLM)과 함께 RAG 기술과 AI 레드팀을 적극 활용하면서 산업·기업별 맞춤형 서비스로 완성도를 높여가고 있다.

RAG 기술을 이용한 환각 증상 최소화 RAG의 3가지 주요 패러다임 - 기본 RAG, 고급 RAG, 모듈형 ...

요청 처리 중입니다...

AI 환각 막고 정확도 높이는 'RAG'와 'AI레드팀'

등록된 다른 글