Executive Summary
기업이 AI 과제를 발굴하면 평균 100개 이상의 후보가 나온다. 그중 80% 이상이 실패한다. 문제는 기술이 아니라 과제 선정이다. RAPIDS 프레임워크는 Readiness(준비도), Alignment(전략 정합), Pain(고통 강도), Impact(임팩트), Data(데이터 품질), Scope(범위 통제)의 6가지 기준으로 과제를 걸러낸다.
핵심 수치
- AI 프로젝트의 **80%+**가 운영 단계에 도달하지 못함: RAND, 2024
- 생성형 AI 파일럿의 **95%**가 측정 가능한 손익 영향 없음: MIT, 2025
- 기업의 **42%**가 대부분의 AI 프로젝트 중단 (2024년 17%에서 147%↑): S&P Global, 2025
- AI를 1개 이상 기능에서 쓰는 기업 88%, EBIT 5%+ 영향 만든 기업은 6%: McKinsey, 2025
- PoC를 넘어 운영으로 전환한 기업 26%: BCG, 2024
문제 인식: 127개 과제의 함정
2025년 가을, 서울의 한 대기업 회의실. Agentic AI 전환 TF 킥오프 미팅이었다. CTO가 슬라이드를 넘겼다. "AI로 할 수 있는 일을 정리해오라고 했습니다. 각 부서에서 올린 과제가 몇 개인지 아십니까?" 숫자가 떴다. 127개.
회의실이 웅성거렸다. 대단해 보였다.
그러나 이런 리스트는 위험하다. 훑어보면 안다. "고객 문의 자동 응답", "보고서 자동 생성", "재고 예측", "직원 감정 분석", "회의록 요약". 그럴듯하다. 절반은 데이터가 없다. 3분의 1은 담당자가 불분명하다. 나머지 상당수는 IT 부서가 기술적으로 해볼 만하다고 올린 것이다. 현업은 원하지 않았다.
6개월 뒤, 127개 중 3개가 시작되었다. 12개월 뒤, 1개만 살아남았다. 살아남은 1개도 현업에 안착하지 못했다.
이런 장면은 드물지 않다. 오히려 보편적이다.
RAND 연구소의 2024년 연구에 따르면, AI 프로젝트의 80% 이상이 운영 단계에 도달하지 못한다[1]. 일반 IT 프로젝트 실패율의 2배다. 실패 원인의 84%가 기술적 한계가 아니라 리더십의 의사결정, 즉 잘못된 과제 선정에서 비롯된다.
MIT의 2025년 연구는 더 날카롭다. 생성형 AI 파일럿의 95%가 측정 가능한 손익 영향을 만들어내지 못했다[2]. 150명의 리더 인터뷰, 350명의 직원 설문, 300건의 공개 AI 배포 사례를 분석한 결과다.
S&P Global의 2025년 조사는 추세를 보여준다. 기업의 42%가 대부분의 AI 프로젝트를 중단했다[3]. 2024년의 17%에서 147% 증가한 수치다. 평균적으로 조직이 시작한 AI PoC(Proof of Concept, 개념 검증)의 46%가 운영 전에 폐기된다.
문제는 AI 기술이 아니다. 어떤 과제를 고르느냐의 문제다.
RAPIDS 프레임워크: 6가지 필터
RAPIDS는 AI 과제 후보를 걸러내는 6단계 프레임워크다. 127개의 과제를 3개로, 3개를 1개로 좁히는 도구다.
각 기준은 1~5점으로 채점한다. 총점이 아니라 최저점이 중요하다. 6개 기준 중 하나라도 2점 이하면, 그 과제는 탈락이다. 전체가 고르게 3점 이상인 과제만 살아남는다.
R — Readiness (준비도)
조직이 이 과제를 수행할 준비가 되어 있는가.
Deloitte의 AI 준비도 평가에 따르면, AI 준비도 점수가 70% 이상인 조직이 12개월 내 AI를 성공적으로 구현할 가능성이 3배 높다[4]. 준비도는 기술 역량만이 아니다. 현업 담당자가 있는가, 변화를 수용할 의지가 있는가, 기존 시스템과 연결할 수 있는가를 포함한다.
127개 과제 중 "직원 감정 분석"은 여기서 탈락한다. 감정 데이터를 수집하는 체계가 없고, HR 부서가 이 결과를 어디에 쓸지 정하지 못했기 때문이다.
A — Alignment (전략 정합)
이 과제가 회사의 핵심 전략과 맞는가.
McKinsey의 2025년 AI 현황 조사에 따르면, AI를 2개 이상의 기능에서 사용하는 기업은 88%에 달하지만, AI로 5% 이상의 EBIT(세전영업이익) 영향을 만든 기업은 6%에 불과하다[5]. 나머지 82%는 전략과 무관한 곳에 AI를 뿌렸다.
과제가 아무리 기술적으로 가능해도, 회사의 3년 전략과 연결되지 않으면 경영진의 지속적 지원을 받지 못한다. 예산 삭감의 첫 번째 대상이 된다.
P — Pain (고통 강도)
이 과제가 해결하는 문제가 현업에게 얼마나 아픈가.
가장 흔한 실수가 여기에 있다. IT 부서가 "해볼 만한" 과제를 올리지만, 현업은 그 문제로 고통받고 있지 않다. 고통이 없으면 협조도 없다. 협조가 없으면 데이터도 못 받고, 테스트도 못 하고, 현업 안착도 못 한다.
127개 과제 중 "회의록 요약"이 대표적이다. 있으면 좋지만, 없어서 죽을 문제는 아니다. 반면 "여신 심사 시간 단축"은 심사역이 매일 야근하는 고통이 있다. 고통이 클수록 현업이 직접 움직인다.
I — Impact (임팩트)
성공했을 때 얼마나 큰 효과가 있는가.
BCG의 2025년 조사에 따르면, AI 가치의 62%가 핵심 업무 기능에서 나온다[6]. 운영(23%), 영업/마케팅(20%), R&D(13%) 순이다. 주변부가 아니라 핵심에서 임팩트가 나온다.
임팩트는 두 가지를 함께 본다. 재무적 효과(비용 절감, 매출 증가)와 전략적 효과(경쟁우위, 시장 선점)다. 둘 다 약하면 우선순위에서 밀린다.
D — Data (데이터 품질)
이 과제에 필요한 데이터가 있는가. 쓸 수 있는 상태인가.
Deloitte의 데이터 준비도 모델은 3단계로 나눈다[4]. Tier 3(준비 부족)은 데이터가 산재하고 표준화되지 않은 상태다. Tier 1(AI 준비 완료)은 FAIR 원칙(Findable, Accessible, Interoperable, Reusable, 찾을 수 있고 접근 가능하며 상호 운용 가능하고 재사용 가능한)에 부합하는 상태다.
127개 과제의 절반이 여기서 탈락한다. "재고 예측"을 하려면 최소 2~3년의 정제된 재고 데이터가 필요하다. 그 데이터가 엑셀 파일 수십 개에 흩어져 있으면, AI 모델 이전에 데이터 정리부터 6개월이 걸린다.
S — Scope (범위 통제)
이 과제의 범위가 명확하게 정의되어 있는가. 3개월 안에 첫 결과를 볼 수 있는가.
BCG의 2024년 조사에 따르면, 기업의 74%가 AI의 가치를 확장하는 데 어려움을 겪고 있다[7]. PoC를 넘어 운영으로 전환한 기업은 26%에 불과하다. 범위를 좁히지 못하면 PoC 지옥에 빠진다.
좋은 과제는 "3개월 안에 특정 팀의 특정 업무에서 측정 가능한 결과"를 낼 수 있어야 한다. "전사 고객 서비스 혁신"은 과제가 아니라 슬로건이다. "A 센터의 B 유형 문의에 대한 초안 답변 자동 생성"이 과제다.
RAPIDS 적용: 어떻게 쓰는가
실제 적용은 세 단계로 진행한다.
1단계는 과제 발굴이다. 부서별 인터뷰, 프로세스 마이닝, 벤치마크 분석으로 후보를 모은다. 프로세스 마이닝만으로도 업무 단계의 15~40%가 AI 자동화 후보로 식별된다[8]. 이 단계에서는 양이 중요하다. 100개든 200개든 상관없다.
2단계는 RAPIDS 채점이다. 6개 기준을 1~5점으로 채점한다. 현업 담당자, IT 담당자, 데이터팀이 함께 채점해야 한다. 한 쪽만 채점하면 편향이 생긴다. 최저점이 2점 이하인 과제는 즉시 탈락시킨다.
3단계는 최종 선정이다. 살아남은 과제를 가치-복잡도 매트릭스에 배치한다[8]. 가치가 높고 복잡도가 낮은 "Quick Win" 영역의 과제를 첫 번째로 선택한다. 첫 과제의 성공이 조직의 AI 신뢰를 만들기 때문이다.
JK's Take
AI 과제 선정에서 가장 흔한 실수는 "기술적으로 가능한 것"을 고르는 것이다. 두 번째 실수는 "임원이 관심 있는 것"을 고르는 것이다. 두 가지 모두 실패 확률이 높다.
RAPIDS의 핵심은 최저점 기준이다. 6개 항목 중 하나라도 준비가 안 되어 있으면, 그 과제는 하지 않는 것이 맞다. 80점짜리 과제보다 60점이지만 빈 곳이 없는 과제가 살아남는다.
127개를 3개로 줄이는 것은 어렵지 않다. RAPIDS를 돌리면 된다. 진짜 어려운 것은 3개 중 1개를 고르는 것이다. 그것은 프레임워크가 아니라 리더의 판단이다. 어떤 성공이 조직의 다음 AI 프로젝트를 열어줄 것인가. 이 질문에 답하는 것이 첫 과제 선정의 본질이다.
What to Watch
— Gartner의 2025년 Hype Cycle에서 생성형 AI가 환멸의 골짜기(Trough of Disillusionment)로 진입했다[9]. 기대가 꺾이는 시점에서 과제 선정의 중요성이 더 커진다. 기술이 아니라 과제를 제대로 고른 기업만 살아남을 것이다.
— BCG의 "Deploy-Reshape-Invent" 프레임워크를 주목하라[10]. 기존 도구를 도입하는 것(Deploy)에서 1015%, 워크플로우를 재설계하는 것(Reshape)에서 3050%의 효율 개선이 나온다. 첫 과제는 Deploy 수준에서 시작하되, Reshape까지 확장 가능한 과제를 고르는 것이 전략적이다.
— AI 에이전트 도입이 본격화되면서 과제 선정의 기준도 바뀌고 있다. McKinsey에 따르면 기업의 62%가 AI 에이전트를 실험 중이고, 23%가 1~2개 기능에서 확장하고 있다[5]. 에이전트 시대의 과제 선정은 "단일 업무 자동화"가 아니라 "워크플로우 전체의 에이전트화"로 범위가 달라진다.
References
[1] RAND Corporation, "The Root Causes of Failure for Artificial Intelligence Projects and How They Can Succeed", 2024. https://agenticwork.io/blog/ai-project-failure-rates-rand-research — AI 프로젝트의 80% 이상이 운영에 도달하지 못하며, 실패 원인의 84%가 기술이 아니라 리더십 의사결정에 있다.
[2] MIT NANDA Initiative, "The GenAI Divide: State of AI in Business 2025", 2025. https://finance.yahoo.com/news/mit-report-95-generative-ai-105412686.html — 생성형 AI 파일럿의 95%가 측정 가능한 손익(P&L) 영향을 만들지 못했다.
[3] S&P Global Market Intelligence, "AI Project Abandonment Survey", 2025. https://www.ciodive.com/news/AI-project-fail-data-SPGlobal/742590/ — 2025년 기업의 42%가 대부분의 AI 프로젝트를 중단했다. PoC(Proof of Concept, 개념 검증)의 46%가 운영 전 폐기된다.
[4] Deloitte, "Executive Framework for AI Capability Assessment", 2024. https://www.deloitte.com/us/en/services/consulting/articles/executive-framework-for-ai-capability-assessment.html — AI 준비도 70% 이상 조직이 12개월 내 성공 구현 가능성 3배. FAIR 원칙(Findable, Accessible, Interoperable, Reusable)은 데이터 품질의 국제 표준이다.
[5] McKinsey, "The State of AI 2025", 2025. https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai — 88%가 AI를 1개 이상 기능에서 사용하지만, EBIT(세전영업이익) 5% 이상 영향을 만든 기업은 6%에 불과하다.
[6] BCG, "Are You Generating Value from AI? The Widening Gap", 2025. https://www.bcg.com/publications/2025/are-you-generating-value-from-ai-the-widening-gap — AI 가치의 62%가 핵심 업무(운영 23%, 영업 20%, R&D 13%)에서 나온다.
[7] BCG, "AI Adoption in 2024: 74% of Companies Struggle", 2024. https://www.bcg.com/press/24october2024-ai-adoption-in-2024-74-of-companies-struggle-to-achieve-and-scale-value — PoC를 넘어 운영으로 전환한 기업은 26%에 불과하다.
[8] Agility at Scale, "AI Use Case Identification and Prioritization", 2024. https://agility-at-scale.com/ai/strategy/ai-use-case-identification-and-prioritization/ — 프로세스 마이닝으로 업무 단계의 15~40%가 AI 자동화 후보로 식별된다. 가치-복잡도 매트릭스(Value vs Complexity Matrix)는 Quick Win, Big Bet, Maybe, Time Sink의 4사분면으로 과제를 분류한다.
[9] Gartner, "Hype Cycle for AI 2025", 2025. https://www.gartner.com/en/newsroom/press-releases/2025-08-05-gartner-hype-cycle-identifies-top-ai-innovations-in-2025 — 2025년 생성형 AI가 환멸의 골짜기(Trough of Disillusionment)에 진입했다.
[10] BCG, "Closing the AI Impact Gap", 2025. https://www.bcg.com/publications/2025/closing-the-ai-impact-gap — Deploy(기존 도구 도입, 1015% 생산성), Reshape(워크플로우 재설계, 3050% 효율), Invent(AI 기반 신규 매출)의 3단계 프레임워크다.
