보안·인프라·데이터 관리가 생성형 AI 도입의 주요 장벽

효성인포메이션시스템은 히타치 밴타라(Hitachi Vantara)가 글로벌 시장조사기관 ESG(Enterprise Strategy Group)와 공동으로 작성한 ‘생성형 AI 위한 기업 인프라(Enterprise Infrastructure for Generative AI: A Foundation for Success)’ 연구 보고서를 발표했다고 13일 밝혔다.

이번 연구는 미국, 캐나다, 서유럽 지역의 IT 및 비즈니스 리더 800명을 대상으로 진행됐다. 보고서에 따르면, 생성형 AI는 기업의 운영 효율화에서 창의적 혁신 촉진에 이르기까지 전체 산업을 재편할 수 있는 막대한 잠재력을 지니고 있다. 그러나 이러한 잠재력을 최대한으로 활용하기 위해서는 견고하고 확장 가능하며 안전한 인프라 기반이 필수적이라고 강조했다.

보고서는 또한 많은 기업이 생성형 AI의 잠재력을 인지하고 그 도입을 서두르고 있지만, 아직 완전한 인프라를 구축하지 못하는 경우가 많다고 지적했다. 설문 조사 결과, 응답자의 97%가 생성형 AI를 최우선 과제로 인식하고 있지만, 44%만이 포괄적인 거버넌스 정책을 보유하고 있는 것으로 나타났다. 또한 인프라와 데이터 생태계가 준비됐다고 답한 응답자는 37%에 불과했다.

생성형 AI 도입의 장애물
보고서는 조직 내 거버넌스, 인프라 준비, IT 인재 부족을 생성형 AI 전략과 실행의 주요 장애물로 꼽았다. 특히 생성형 AI 관련 데이터를 저장하고 관리할 때는 보안, 비용, 데이터 품질 문제가 가장 큰 과제로 나타났다. 이에 71%의 응답자가 생성형 AI 프로젝트 추진 전에 인프라를 현대화해야 한다고 동의했다. 비용 절감형 인프라 옵션을 찾는 기업이 많지만, 개인정보 보호와 데이터 지연 문제도 중요한 고려사항으로 보고 있다.


응답자의 81%가 생성형 AI로 애플리케이션을 구축할 때 데이터 개인정보 보호 및 규정 준수에 대한 우려를 표명했으며, 77%는 생성형 AI 결과를 수용하기 전에 데이터 품질 문제를 해결해야 한다고 답했다.

또한 생성형 AI의 효과를 높이기 위한 균형 잡힌 인프라 환경과 데이터 통합의 중요성도 강조했다. 응답자의 96%는 독점적인 거대 언어 모델(LLMs)의 대안을 선호하고 있다. 86%는 외부 데이터 소스를 검색하고 통합하는 방식을 결합한 RAG(Retrieval-Augmented Generation)를 활용할 계획이라고 밝혔다. 또한 응답자의 78%는 생성형 AI 솔루션 구축을 위해 온프레미스와 퍼블릭 클라우드를 혼합한 하이브리드 클라우드 환경을 사용할 계획이라고 말했다.

효성인포메이션시스템의 양정규 대표이사는 “생성형 AI의 진정한 힘을 이끌어 내려면 AI 모델의 훈련과 추론을 원활하게 수행할 강력한 데이터 인프라와 고성능 컴퓨팅 자원이 필요하다”라며, “글로벌 생성형 AI 기술력과 성공 사례를 통해 국내 고객들이 생성형 AI의 진정한 잠재력을 열고 경쟁 우위를 확보할 수 있도록 최상의 솔루션을 제안할 것”이라고 말했다.