AI 에이전트 확산 속 완전 자율화는 아직 초기 단계

글로벌 IT 리서치 기업 가트너가 2025년 5월부터 6월까지 북미, 유럽, 아시아 태평양 지역 기업의 IT 애플리케이션 리더 360명을 대상으로 실시한 설문조사 결과가 10월 1일 공개됐다. 조사 결과 응답자의 75%가 AI 에이전트를 이미 시범 도입했거나 배포 중, 또는 배포를 완료한 것으로 나타났다. 하지만 사람의 감독 없이 자율적으로 목표를 수행하는 완전 자율 AI 에이전트를 고려하거나 구축 중인 기업은 15%에 불과했다.

완전 자율 AI 에이전트는 환경을 인식하고, 스스로 의사결정을 내리며, 특정 목표를 달성하기 위해 독립적으로 행동을 수행할 수 있는 AI 시스템을 의미한다. 핵심은 '에이전시(agency)', 즉 소프트웨어가 인간의 개입 없이 독립적으로 행동할 수 있는 능력이다. 예를 들어 "도시락을 주문해줘"라는 명령만으로 AI가 스스로 배달 앱에 접속하여 메뉴를 선택하고 결제까지 완료하는 수준이다. 이는 단순히 정보를 제공하거나 추천하는 기존 생성형 AI 어시스턴트와는 질적으로 다른 단계다.

완전 자율 AI 에이전트는 계획 수립(Planning), 도구 사용(Tool Use), 기억(Memory), 실행(Action)이라는 네 가지 핵심 특징을 갖춘다. 사용자로부터 요청받은 복잡한 작업을 수행하기 위해 스스로 계획을 세우고, 어떤 도구를 이용할지 자체적으로 결정하며, 중간 결과를 메모리에 저장해 다음 작업에 반영하면서 최종적으로 과업을 수행한다. 이 과정에서 실수를 발견하면 스스로 수정하는 '자율 반복' 기능까지 갖추고 있어, 목표를 달성할 때까지 자율적으로 작업을 이어간다.

이번 조사는 생성형 AI와 에이전틱 AI가 기업 애플리케이션에 미치는 영향을 파악하기 위해 진행됐다. AI 에이전트는 AI 기술을 활용해 디지털 및 물리적 환경에서 인지하고 의사결정을 내리며 행동을 수행하는 자율 또는 반자율 소프트웨어를 의미한다. 가트너의 맥스 고스(Max Goss) 시니어 디렉터 애널리스트는 "에이전틱 AI를 둘러싼 과대광고는 계속 확산되고 있으며, 공급업체들은 기존 생성형 AI 어시스턴트의 한계를 극복할 차세대 기술로 AI 에이전트를 제시하고 있다"고 설명했다.

신뢰 부족과 보안 우려가 최대 걸림돌

완전 자율 AI 에이전트 구축의 주요 장애물은 공급업체의 보안과 거버넌스, 환각 방지 역량에 대한 신뢰 부족으로 나타났다. 응답자의 19%만이 공급업체의 환각 방지 기능을 높이 또는 완전히 신뢰한다고 답했으며, 74%는 AI 에이전트가 조직 내 새로운 공격 경로가 될 것이라고 우려했다. 또한 AI 에이전트를 관리할 적절한 거버넌스 체계를 갖추었다고 확신한 응답자는 13%에 그쳤다.

조직의 준비 상태에 대한 우려도 컸다. AI 활용 목표에 대해 IT와 비즈니스 직원, 경영진 간 의견이 매우 일치한다고 답한 응답자는 14%에 불과했다. 흥미로운 점은 의견이 일치하는 기업이 그렇지 않은 기업보다 AI 에이전트를 혁신적이라고 평가할 가능성이 1.6배 높고, 생성형 AI 도구에서 가치를 발견할 가능성이 3배 이상 높았다는 것이다.

고스 애널리스트는 "AI 활용 목표와 그 가치 측정 방법에 대한 합의가 성공적인 AI 배포의 핵심임에도 불구하고, 많은 기업이 이를 확보하지 못하고 있다"고 지적했다.

생산성 향상 기대는 크지만 혁신 효과는 미지수

AI 에이전트의 영향력에 대한 전망은 다양하게 나타났다. 응답자의 26%는 생산성에 혁신적 변화를 가져올 것으로 예상했고, 53%는 영향력은 크지만 혁신적인 수준은 아닐 것이라고 답했으며, 20%는 효과가 제한적일 것이라고 전망했다.

장기적 도입 전망은 불확실하지만, 대부분의 리더는 향후 2~4년 내에 이 기술이 애플리케이션이나 인력을 대체할 가능성은 낮다고 예상했다. AI 에이전트가 애플리케이션을 대체할 것이라고 강력히 동의한 응답자는 12%에 불과했으며, 작업자를 대체할 것이라는 응답자는 7%에 그쳤다. 다만 어느 정도 동의하는 비율은 각각 34%, 29%로 훨씬 높게 나타나, 기술에 대한 기대와 불확실성이 공존하고 있음을 보여준다.

고스 애널리스트는 "보편화된 지 겨우 12개월밖에 안 된 기술임을 고려할 때, 이는 상당한 수치이며 에이전틱 AI를 둘러싼 과대광고와 불확실성이 동시에 존재함을 보여준다"고 말했다.

한편, AI 활용 목표에 대한 내부 합의가 부족한 기업은 AI 에이전트가 가장 큰 영향을 미칠 분야로 '사무 생산성'을 꼽을 가능성이 거의 두 배에 달했다. 반면 의견이 일치한 기업은 고객 서비스, ERP, 영업 등 보다 직접적이고 가치 창출이 가능한 활용 사례에 집중하는 경향을 보였다.

실제로 AI 에이전트의 영향을 가장 크게 받을 분야로는 분석 및 비즈니스 인텔리전스가 64%로 1위를 차지했으며, 고객 서비스가 55%, 사무 생산성이 39%로 그 뒤를 이었다. 고스 애널리스트는 "AI 에이전트 활용 방안에 대한 이해가 부족한 기업에서는 사무 생산성과 디지털 업무 환경이 기본 선택지가 될 수 있지만, 반드시 최대 가치를 제공하는 영역은 아니다"라고 강조했다.

성공적 도입을 위한 세 가지 핵심 전략

가트너는 기업이 에이전틱 AI를 도입할 때 다음 세 가지 핵심 영역에 집중할 것을 권장한다.

첫째, 특정 플랫폼에 종속되지 않는 AI 에이전트 거버넌스 프레임워크를 구축해 무분별한 확산 위험을 방지하고, 다양한 도구와 영역에 걸쳐 AI 에이전트 기능을 안전하게 개발할 수 있도록 명확한 지침과 정책, 제어 기능을 제공해야 한다.

둘째, AI 에이전트 활용 목적에 대해 IT와 비즈니스 부서 간 합의를 도출하는 것이 성공의 핵심이다. 사무 생산성 제품군에 AI 에이전트를 배포하는 것이 위험 부담이 크고 수익성이 낮다면, 고객 서비스나 데이터 및 분석과 같이 보다 실질적인 투자수익률을 제공할 수 있는 영역을 고려해야 한다.

셋째, 가트너는 AI 에이전트 전략을 단일 공급업체에 의존하기에는 아직 이르다고 판단한다. 기업은 ERP, CRM, 디지털 워크플레이스 포트폴리오 전반에서 다양한 옵션을 탐색하고, 변화하는 요구사항을 충족할 수 있는 공급업체 역량을 활용해야 한다.

이번 조사 결과는 AI 에이전트 기술이 빠르게 확산되고 있지만, 진정한 에이전틱 AI로 도약하기 위해서는 기술 성숙도와 조직의 준비도가 함께 발전해야 함을 보여준다. 보안과 신뢰성에 대한 우려를 해소하고, 조직 내 합의를 도출하며, 적절한 거버넌스 체계를 구축하는 것이 AI 에이전트의 잠재력을 실현하는 핵심 과제로 떠오르고 있다.