도입은 79%, 운영은 31%
Executive Summary
① 문제: Agentic AI를 도입한 기업 5곳 중 4곳이 파일럿에서 더 나아가지 못하고 있다. ② 프레임 재정의: 채택률은 경쟁력의 척도가 아니다. 운영 성숙도가 진짜 기준이다. ③ 손실 규모: 운영 단계에 도달한 기업은 평균 171%의 ROI를 보고한다. 파일럿에 머문 기업은 이 수익을 통째로 놓친다. ④ 지속성: 클라우드 전환도 동일한 패턴을 보였다. 도입은 빨랐고 핵심 업무 이전은 느렸다. Agentic AI는 복잡도가 더 높다. ⑤ 가치: Gartner는 2027년 말까지 프로젝트 40%가 취소될 것으로 예측한다. 취소되지 않는 60%가 시장을 가져간다. ⑥ 방향: 멀티에이전트 오케스트레이션 설계, AgentOps 체계, Governed Autonomy — 세 역량이 운영 성숙도를 결정한다.
핵심 수치
| 지표 | 수치 | 출처 |
|---|---|---|
| 기업 AI 에이전트 도입률 | 79% | PwC (2025.05 조사) |
| 최소 1개 에이전트 운영 배치 | 31% | S&P Global Market Intelligence |
| 전사 확장 운영 비율 | 약 20% | McKinsey 2026 |
| 매출 10억 달러 이상 기업 확장 운영 | 40% | McKinsey 2026 |
| 운영 기업 평균 ROI | 171% | Futurum Research 2026 |
| Agentic AI 관련 지출 (2026년) | 2,019억 달러 (+141% YoY) | Gartner 2026 |
| 2027년 말 프로젝트 취소 예측 | 40%+ | Gartner (2025.06 발표) |
1. 이 격차는 처음이 아니다
2010년대 클라우드 전환이 같은 모양이었다. 도입 자체는 빠르게 확산됐다. 그러나 핵심 업무 시스템을 실제로 클라우드로 옮기는 작업은 훨씬 느렸다. 도입을 선언한 기업과 운영을 완성한 기업 사이에서 디지털 역량 차이가 벌어졌고, 그 격차는 수년간 좁혀지지 않았다.
Agentic AI가 같은 패턴을 반복하고 있다. PwC가 2025년 5월 고위 임원 300명을 조사한 결과, 79%가 자사에서 AI 에이전트를 이미 도입하고 있다고 답했다[2]. 도입 기업의 66%는 측정 가능한 생산성 향상을 보고했다[2].
그러나 최소 1개 이상의 에이전트를 실제 운영 환경에 올린 기업은 31%다[4]. 전사 차원에서 에이전트를 확장 운영하는 곳은 10곳 중 2곳, 약 20%에 그친다[3]. 개별 업무 기능 단위로 좁히면 어느 기능에서도 10%를 넘지 못한다[3]. 도입의 쉬움이 운영의 어려움을 가리고 있다.
클라우드와 다른 점이 하나 있다. Agentic AI는 복잡도가 훨씬 높다. 클라우드는 인프라를 옮기는 것이었다. Agentic AI는 복수의 에이전트가 자율적으로 판단하고 협업하는 시스템을 설계하고 운영하는 것이다. 격차가 더 오래, 더 크게 벌어질 가능성이 높다.
2. 운영이 막히는 세 가지 이유
79%가 시작했지만 31%만 운영에 이른 이유는 구조적이다.
첫째, 멀티에이전트 오케스트레이션의 복잡도. 전통 AI는 단일 모델을 배포하면 되었다. Agentic AI는 복수의 에이전트가 역할을 나누어 협업한다. 에이전트 간 통신, 상태 관리, 실패 복구, 루프 방지가 동시에 필요하다. 파일럿에서는 2~3개 에이전트로 시작하지만, 운영에서는 수십 개가 동시에 움직인다.
둘째, 비용 구조의 불투명성. 파일럿 단계에서는 토큰 비용이 무시할 수 있는 수준이다. 운영 규모로 확대하면 API 호출 비용, 인프라 비용, 오케스트레이션 오버헤드가 중첩된다. 예산을 초과하는 사례가 빈번하다. 비용 예측 모델 없이 시작한 파일럿이 운영 단계에서 멈추는 주된 이유다.
셋째, 리스크 통제 체계의 부재. 에이전트가 자율적으로 판단하고 행동한다는 것은 예측 불가능한 결과를 낳을 수 있다는 뜻이다. 금융의 여신 판단, 의료의 진단 보조, 제조의 공정 제어처럼 실수의 비용이 큰 영역에서는 에이전트의 행동 범위를 설계하는 Governed Autonomy 체계가 필수다. 이 체계 없이 배포한 에이전트는 운영 중 첫 사고 이후 중단된다.
Gartner는 2027년 말까지 프로젝트의 40% 이상이 비용 초과, 불분명한 사업 가치, 부적절한 리스크 통제를 이유로 취소될 것으로 예측한다[1].
3. 한국 기업의 현실
국내 중견 제조기업 A사의 사례를 가정해보자. 공정 이상 탐지와 품질 검사 자동화를 위해 에이전트 시스템 파일럿을 시작했다. 4주 만에 데모가 완성되었다. 6개월 후, 파일럿은 여전히 파일럿이다.
문제는 기술이 아니었다. 첫째, 운영 환경의 데이터 품질이 파일럿 환경과 달랐다. 에이전트가 훈련된 데이터와 실제 생산 데이터 간 분포 차이가 컸다. 둘째, 에이전트가 이상 판정을 내릴 때 현장 작업자가 이를 신뢰하지 않았다. Human in the loop 설계가 없었다. 셋째, 에이전트가 잘못된 판단을 내렸을 때 누가 책임지는지 내부 합의가 없었다.
이것이 한국 기업의 전형적인 패턴이다. 기술 역량은 충분하다. 운영 체계가 없다. AgentOps 프레임워크, 모니터링 루프, 인간 개입 설계, 책임 구조 — 이 네 가지가 파일럿과 운영을 가르는 실질적 요소다.
산업별로 보면 은행과 보험이 47%로 가장 높은 운영 배치율을 보인다[4]. 오래전부터 워크플로 자동화와 데이터 기반 의사결정에 투자해 온 결과다. 반면 헬스케어는 18%, 공공 부문은 14%에 머문다. 같은 규제 산업인데도 금융과 격차가 세 배 가까이 벌어진다. 규제의 강도가 아니라 자동화 자산의 축적량이 차이를 만든 것이다.
4. 격차를 좁히는 세 가지 역량
운영에 성공한 기업은 평균 171%의 ROI를 보고한다[5]. 미국 기업은 192%로 전통적 자동화의 약 3배다[5]. 성공 기업의 공통점은 세 가지다.
멀티에이전트 오케스트레이션 설계 역량. 에이전트를 만드는 것은 쉽다. 여러 에이전트가 안정적으로 협업하는 시스템을 설계하는 것은 완전히 다른 문제다. LangGraph, CrewAI, AutoGen 등 오케스트레이션 프레임워크의 실전 경험이 핵심 역량이다.
AgentOps 체계. 모델 성능이 아니라 에이전트 시스템 전체를 관찰하고, 평가하고, 개선하는 운영 루프다. 에이전트가 무엇을 판단하고 무엇을 실행하는지 로그를 남기고, 이상 행동을 탐지하고, 성능 저하를 조기에 발견하는 체계다.
Governed Autonomy. 에이전트에게 자율성을 부여하되, 행동 가능한 범위를 설계하는 것이다. 에이전트가 인간의 개입 없이 처리할 수 있는 결정과, 반드시 사람의 확인이 필요한 결정을 구분하는 설계가 핵심이다.
JK's Take
반직관적 주장: 도입을 빨리 한 기업이 이기는 게임이 아니다. 운영까지 도달한 기업이 독식한다.
79%가 도입했다는 숫자는 이 게임이 이미 시작되었다는 신호다. 31%가 운영한다는 숫자는 아직 자리가 남았다는 신호다. 20%가 전사 확장 단계에 들어섰다는 숫자는 선두 그룹이 형성되고 있다는 신호다.
주목할 지점은 따로 있다. 매출 10억 달러 이상 기업의 확장 운영 비율은 40%로, 직전 조사의 27%에서 뛰었다[3]. 전체 평균 20%의 두 배다. 격차가 좁혀지는 게 아니라 벌어지고 있다는 뜻이다.
클라우드 전환기에도 "이미 늦었다"고 말하는 사람들이 있었다. 그러나 진짜 경쟁은 도입이 아니라 운영 역량에서 갈렸다.
Gartner가 예측한 40% 프로젝트 취소는 경고가 아니라 기회다. 취소되는 40%의 자리를 운영 역량이 있는 기업이 가져간다.
What to Watch
— Gartner의 2027년 말 40% 프로젝트 취소 예측이 현실화되는지 추적하라. 취소 사유의 패턴이 후발 주자에게 가장 값진 교훈이 된다.
— 산업별 운영 배치율 격차를 주목하라. 은행·보험 47%, 헬스케어 18%, 공공 14%라는 수치가 2027년에 어떻게 변하는지가 규제 산업의 AI 수용 속도를 결정할 것이다.
— 멀티에이전트 오케스트레이션 프레임워크의 성숙도를 확인하라. LangGraph, CrewAI, AutoGen 등의 프레임워크가 운영 안정성을 확보하는 시점이 Agentic AI 본격 확산의 전환점이 될 전망이다.
References
[1] Gartner, "Gartner Predicts Over 40% of Agentic AI Projects Will Be Canceled by End of 2027", Gartner Newsroom, 2025-06-25. https://www.gartner.com/en/newsroom/press-releases/2025-06-25-gartner-predicts-over-40-percent-of-agentic-ai-projects-will-be-canceled-by-end-of-2027 — 3,400개 이상 조직 설문 기반. 비용 초과, 불분명한 사업 가치, 부적절한 리스크 통제가 취소 사유다. Gartner는 2026년 Agentic AI 지출을 2,019억 달러(전년 대비 +141%)로 전망한다. Agentic AI는 복수의 에이전트가 자율적으로 판단하고 도구를 사용하여 복잡한 업무를 수행하는 AI 시스템이다.
[2] PwC, "PwC's AI Agent Survey", PwC US, 2025-05. https://www.pwc.com/us/en/tech-effect/ai-analytics/ai-agent-survey.html — 고위 임원 300명 조사. 79%가 자사에 AI 에이전트 도입 중이라고 응답. 도입 기업의 66%가 생산성 향상, 57%가 비용 절감, 55%가 의사결정 속도 개선을 보고. 88%가 향후 12개월 내 AI 예산 증액 계획.
[3] McKinsey & Company, "The State of AI: Global Survey 2026", McKinsey QuantumBlack, 2026. https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai — 약 20%(10곳 중 2곳)만 전사 차원에서 AI 에이전트를 확장 운영. 개별 업무 기능 단위로는 어느 기능에서도 10%를 넘지 못함. 매출 10억 달러 이상 기업은 40%가 확장 운영(직전 조사 27%). 참고로 챗봇은 47%가 전사 확장 단계다.
[4] S&P Global Market Intelligence, "Enterprise Race to Build AI Agent-Ready Infrastructure", S&P Global, 2026. https://www.prnewswire.com/news-releases/sp-global-report-charts-enterprise-race-to-build-ai-agent-ready-infrastructure-302605586.html — 기업의 31%가 최소 1개 AI 에이전트를 운영 환경에 배치. 산업별로 은행·보험 47%, 헬스케어 18%, 공공 14%.
[5] Futurum Research, "AI Agent ROI Benchmark 2026", Futurum Research, 2026. — 에이전트를 운영 배치한 기업의 평균 ROI 171%, 미국 기업 192%로 전통적 자동화의 약 3배. 이 수치는 PwC 조사가 아니라 Futurum Research 집계다.
