“AI 에이전트, 거버넌스 부재에 ‘자율’은 아직 먼 미래”

인공지능(AI)이 스스로 목표를 설정하고 실행하는 ‘완전 자율 AI 에이전트’ 시대가 성큼 다가올 것이라는 기대와 달리, 기업의 75%가 AI 에이전트를 도입하고도 거버넌스 부재와 보안 우려 등으로 인해 실제로는 완전 자율 시스템 구축을 주저하고 있다는 글로벌 조사업체 가트너의 보고서가 나왔다.

가트너는 1일, 북미, 유럽, 아시아 태평양 지역의 IT 애플리케이션 리더 360명을 대상으로 한 설문조사 결과, 사람의 감독 없이 작동하는 완전 자율 AI 에이전트를 고려하거나 시범 운영, 구축 중인 기업은 단 15%에 불과했다고 밝혔다.

맥스 고스 가트너 시니어 디렉터 애널리스트는 “AI 에이전트를 둘러싼 과대광고는 확산되고 있지만, 거버넌스 부재와 기술 성숙도에 대한 우려가 진정한 에이전틱 AI 구축을 가로막고 있다”고 지적했다.

보고서에 따르면, 기업들은 완전 자율 솔루션 구축의 주요 장애물로 ▲공급업체의 보안·거버넌스·환각 방지 역량에 대한 신뢰 부족 ▲조직의 준비 상태 우려를 꼽았다. 응답자의 74%는 AI 에이전트가 새로운 공격 경로가 될 것이라고 우려했고, 적절한 거버넌스를 갖췄다고 확신한 기업은 13%에 불과했다.

AI 에이전트가 생산성에 혁신적 변화를 가져올 것이라는 기대는 26%에 그쳤으며, 절반 이상(53%)은 영향력은 크지만 혁신적인 수준은 아닐 것이라고 답했다. 특히 AI 활용 목표에 대한 내부 합의가 부족한 기업은 AI 에이전트의 주요 활용처로 ‘사무 생산성’을 꼽을 가능성이 두 배나 높았다. 반면, 합의된 기업은 ‘고객 서비스’, ‘ERP’, ‘영업’ 등 가치 창출에 직접적인 영역에 집중하는 경향을 보였다.

대부분의 기업 리더들은 AI 에이전트가 향후 2~4년 내에 기존 애플리케이션이나 인력을 완전히 대체할 가능성은 낮다고 내다봤다. 애플리케이션 대체 가능성에 강력히 동의한 응답자는 12%, 인력 대체는 7%에 불과했다.

고스 시니어 디렉터 애널리스트는 “생성형 AI 기술이 보편화된 지 1년밖에 안 된 점을 고려하면, 에이전틱 AI에 대한 기대와 불확실성이 동시에 존재함을 보여준다”고 덧붙였다.