*이 장을 다 읽고 나면 알게 될 것: 한국 기업이 산업형 AI Agent 시장에서 어떤 현실적 기회를 가지고 있는지, 무엇이 강점이고 무엇이 약점인지, 그리고 복잡한 산업 현실을 견딘 경험이 왜 AI 시대의 경쟁력이 되는지*
도입: 울산의 새벽 세 시
2025년 봄, 울산의 한 자동차 부품 공장을 방문했다. 새벽 세 시. 공장은 쉬지 않았다. 프레스 라인이 돌아가고, 로봇팔이 용접을 하고, 컨베이어가 부품을 날랐다. 안내를 맡은 공장장은 쉰 목소리로 말했다. "여기 설비 중에 열 살 넘은 것이 절반입니다. 그런데 다 돌아갑니다."
나는 그 말이 좋았다. 열 살 넘은 설비가 여전히 돌아간다는 것. 그것은 기술의 문제가 아니라 운영의 문제다. 누군가가 매일 점검하고, 이상 징후를 읽고, 교체 시점을 판단한다. 시스템이 아니라 사람의 경험이 공장을 지탱한다.
그런데 그 공장장이 한숨을 쉬었다. "문제는 이 경험을 가진 사람이 은퇴하고 있다는 겁니다. 후임은 데이터를 봅니다. 그런데 데이터만 보면 놓치는 것이 있어요. 설비가 내는 소리가 달라졌다든지, 진동 패턴이 미세하게 바뀌었다든지. 이런 것은 숫자에 안 잡힙니다."
그 순간 나는 생각했다. 이것이 한국형 AI Agent의 출발점이 아닌가. 실리콘밸리의 AI는 텍스트와 이미지에서 시작했다. 한국의 AI는 공장의 소리와 진동에서 시작해야 하는 것이 아닌가.
이 장은 3권의 마지막 장이다. 27장까지 산업별 Agent 적용을 살펴봤다. 이제 마지막으로 묻는다. 한국은 Agentic Enterprise 시대에 어디에 서 있는가. 기회는 무엇이고, 함정은 무엇인가. 그리고 어떤 길이 현실적인가.
29.1 한국의 강점 — 복잡함을 견딘 경험
한국 산업에는 독특한 강점이 있다. 그것은 복잡함을 견딘 경험이다.
반도체를 보자. 삼성전자와 SK하이닉스는 세계 메모리 반도체 시장의 약 60% 이상을 점유한다. 이 시장은 단순하지 않다. 수백 개의 공정 단계, 나노미터 단위의 정밀도, 수율을 0.1%라도 올리기 위한 끝없는 실험. 이 모든 것을 수십 년간 해온 조직이다.
자동차를 보자. 현대자동차그룹은 한 대의 차에 약 3만 개의 부품을 조립한다. 1차, 2차, 3차 협력사까지 포함하면 공급망에 수천 개의 회사가 엮여 있다. 이 공급망을 관리하는 것은 기술이 아니라 관계와 경험의 축적이다.
조선을 보자. HD한국조선해양, 삼성중공업, 한화오션은 세계 조선 시장의 절반 이상을 수주한다. 배 한 척을 짓는 데 수만 개의 도면, 수백 개의 공정, 수십 개의 협력사가 필요하다. 이것을 납기 안에 맞추는 것은 일종의 예술이다.
이 경험이 왜 AI Agent 시대에 강점이 되는가.
산업형 AI Agent는 깨끗한 환경에서 작동하지 않기 때문이다. 실리콘밸리의 SaaS형 AI는 정돈된 데이터, 표준화된 프로세스, 영어 인터페이스를 전제한다. 그러나 한국 제조 현장의 데이터는 정돈되어 있지 않다. 설비마다 프로토콜이 다르다. 공정 기록이 엑셀과 수기 노트에 섞여 있다. ERP와 MES가 따로 논다. 이 혼돈 속에서 작동하는 Agent를 만들려면, 혼돈을 아는 사람이 만들어야 한다.
한국은 그 혼돈을 안다. 1994년 매일경제신문 글로벌 가치사슬 논문 공모 이래, 한국 산업은 그 안에서 살아왔다. 이것이 강점이다.
잠시 멈추고 생각해보자
당신의 조직에서 가장 복잡한 프로세스는 무엇인가? 그 복잡함을 관리하는 것은 시스템인가, 사람의 경험인가? 만약 그 경험이 은퇴와 함께 사라진다면, 무엇으로 대체할 수 있는가?
29.2 한국의 또 다른 강점 — 빠른 실행력과 인프라
한국에는 복잡함을 견딘 경험 외에 두 가지 강점이 더 있다.
첫째, 빠른 실행력이다. 한국 기업은 의사결정이 빠르다. 물론 그 빠름에는 부작용도 있다. 충분한 검토 없이 뛰어드는 경우도 있다. 그러나 AI 시대에는 이 빠름이 자산이 될 수 있다. 왜냐하면 AI Agent는 PoC에서 운영까지 넘어가는 속도가 경쟁력이기 때문이다. 27장에서 살펴본 Pilot Purgatory를 빠져나오는 데 한국 기업의 실행 속도가 유리하다.
실제로 그런 사례가 있다. 포스코는 제철 공정에 AI 기반 품질 예측 시스템을 도입한 뒤, PoC에서 전사 확산까지 약 18개월이 걸렸다. 같은 규모의 글로벌 철강사가 3년 이상 걸린 것과 비교하면 빠르다. 의사결정 구조가 수직적이라는 것이 이런 경우에는 오히려 장점으로 작용한다.
둘째, 디지털 인프라다. 한국의 5G 보급률, 클라우드 인프라, 데이터센터 밀도는 세계 최상위권이다. 반도체 제조 역량도 있다. AI Agent가 작동하려면 저지연 네트워크, 충분한 컴퓨팅 파워, 안정적인 데이터 파이프라인이 필요하다. 한국은 이 인프라를 이미 갖추고 있다.
특히 온프레미스 AI 인프라가 중요해지고 있다. 기업의 민감 데이터를 외부 클라우드에 보내지 않고, 자체 서버에서 처리하는 방식이다. 삼성SDS, LG CNS, SK C&C 같은 한국 IT 서비스 기업들이 이 영역에서 빠르게 움직이고 있다. NVIDIA의 DGX 시스템을 도입해 자체 AI 인프라를 구축하는 대기업도 늘고 있다.
온프레미스 AI는 한국 대기업의 성격에 맞다. 데이터를 외부에 내보내는 것을 꺼리는 문화, 자체 역량을 중시하는 전통, 충분한 자본. 이 세 가지가 맞물려 한국형 온프레미스 AI 시장은 빠르게 성장하고 있다.
29.3 한국의 약점 — 직시해야 넘을 수 있다
강점만 보면 안 된다. 약점도 직시해야 한다.
첫째, 영어 중심의 AI 생태계다. 현재 가장 강력한 LLM들은 영어 데이터로 학습되었다. GPT-4, Claude, Gemini, Llama 모두 영어 성능이 가장 좋다. 한국어 성능은 개선되고 있지만, 여전히 영어에 비해 떨어진다. 특히 산업 전문 용어, 법률 문서, 기술 사양서 같은 영역에서 한국어 LLM의 한계가 뚜렷하다.
이것은 단순한 언어 문제가 아니다. AI Agent가 한국어 문서를 정확히 이해하고, 한국 비즈니스 맥락에 맞게 추론하려면, 한국어에 특화된 파인튜닝과 데이터가 필요하다. 이 작업을 할 수 있는 인력과 데이터가 부족하다.
둘째, 데이터 규제의 복잡성이다. 한국의 개인정보보호법, 데이터 3법, 의료 데이터 규제는 세계적으로도 엄격한 편이다. 엄격한 것 자체가 문제는 아니다. EU의 GDPR도 엄격하다. 문제는 규제의 해석이 모호한 경우가 많다는 것이다. 같은 데이터를 놓고 부처마다, 심지어 담당자마다 해석이 다를 때가 있다. 이 모호함이 기업의 AI 프로젝트를 지연시킨다.
나는 컨설팅 현장에서 이런 경우를 여러 번 봤다. 한 금융사가 고객 데이터를 활용한 AI Agent를 만들려고 했다. 기술은 준비되었다. 그런데 법무팀에서 "이 데이터 활용이 개인정보보호법 제15조에 해당하는지 제17조에 해당하는지 확인이 필요하다"고 했고, 그 확인에 석 달이 걸렸다. 석 달 뒤에도 결론이 나지 않았다. 프로젝트는 보류되었다.
셋째, 대기업 중심의 생태계다. 한국의 AI 투자는 대기업에 집중되어 있다. 삼성, SK, LG, 현대 같은 그룹이 AI 연구소를 운영하고, 대규모 인프라를 구축하고, 인재를 영입한다. 문제는 중소·중견기업이다. 한국 제조업의 약 80%는 중소기업이다. 이들은 AI Agent를 도입할 예산도, 인력도, 데이터도 부족하다.
그런데 역설적으로, AI Agent가 가장 필요한 곳이 바로 이 중소기업이다. 인력이 부족하기 때문에 자동화가 절실하다. 경험이 은퇴하기 때문에 지식 보존이 급하다. 그러나 도입할 여력이 없다. 이 격차를 어떻게 메울 것인가가 한국형 Agentic Enterprise의 핵심 과제 중 하나다.
잠시 멈추고 생각해보자
당신의 조직은 AI 관련 데이터 규제를 어떻게 다루고 있는가? 규제 때문에 지연된 프로젝트가 있는가? 그 지연은 규제 자체 때문이었는가, 규제의 모호함 때문이었는가?
29.4 주권형 AI — 한국이 가야 할 방향
약점을 직시했으니 이제 방향을 본다. 나는 한국형 Agentic Enterprise의 핵심 키워드가 주권형 AI라고 본다.
주권형 AI란 무엇인가. 단순하다. 핵심 데이터와 핵심 모델을 자기 손에 두는 것이다. 외부 API에 전적으로 의존하지 않는 것이다.
이것은 국가적 자존심의 문제가 아니다. 실용의 문제다.
한국 기업이 OpenAI의 API에 핵심 업무를 맡기면 어떤 일이 생기는가. 첫째, 가격을 통제할 수 없다. OpenAI가 가격을 올리면 따라야 한다. 둘째, 서비스 중단 리스크가 있다. 2024년에만 GPT-4 API가 여러 차례 장애를 겪었다. 핵심 업무가 그 위에 있었다면 어떤 일이 벌어졌을까. 셋째, 데이터 주권이 흔들린다. 프롬프트에 들어간 기업 데이터가 미국 서버에서 처리된다. 한국법 바깥이다.
유럽은 이 문제를 일찍 인식했다. 프랑스의 미스트랄 AI, 독일의 알레프 알파가 유럽형 주권 LLM을 만들었다. EU는 AI Act를 통해 고위험 AI에 대한 규제와 함께, 유럽 내 AI 역량 확보를 추진하고 있다.
한국도 움직이고 있다. 네이버의 하이퍼클로바X, KT의 믿음, LG AI연구원의 엑사원이 한국어 특화 LLM을 개발했다. 정부도 2025년에 국가 AI 컴퓨팅 센터 확충 계획을 발표했다. 방향은 맞다. 문제는 속도와 규모다.
나는 여기서 한 가지를 분명히 하고 싶다. 주권형 AI가 모든 것을 국산으로 만들자는 뜻은 아니다. 핵심만 자기 손에 두자는 뜻이다. 기반 LLM은 오픈소스를 활용해도 된다. Llama, Qwen, Mistral 같은 오픈소스 모델을 가져와서, 한국 산업 데이터로 파인튜닝하고, 한국 기업의 온프레미스 환경에서 운영하면 된다. 나의 시스템에서 우리가 하는 것이 바로 이것이다. Qwen3를 기반으로, 한국 산업 데이터로 특화하고, RunPod과 자체 서버에서 돌린다. 모든 것을 밑바닥부터 만들 필요는 없다. 그러나 핵심은 쥐고 있어야 한다.
29.5 산업형 Agent — 한국의 현실적 기회
그렇다면 한국 기업이 AI Agent 시장에서 경쟁력을 가질 수 있는 구체적 영역은 어디인가.
나는 세 가지를 본다.
첫째, 제조 공정 Agent다. 한국은 반도체, 자동차, 조선, 화학, 철강에서 세계적 경쟁력을 가진다. 이 산업들의 공정 데이터, 품질 데이터, 설비 데이터가 축적되어 있다. 이 데이터를 기반으로 공정 최적화, 예지 보전, 품질 예측 Agent를 만들면, 그것은 한국 기업만 만들 수 있는 Agent가 된다. 왜냐하면 그 데이터와 도메인 지식은 한국에만 있기 때문이다.
예를 들어, 삼성전자의 반도체 수율 관리에는 수천 개의 변수가 관여한다. 이 변수들 사이의 관계를 그래프로 모델링하고, 이상 패턴을 감지하는 Agent를 만들면, 그것은 세계 어디에서도 복제할 수 없는 시스템이 된다. 데이터가 곧 해자다.
둘째, 공급망 인텔리전스 Agent다. 한국 대기업은 복잡한 글로벌 공급망을 운영한다. 1차에서 3차까지의 협력사 네트워크, 원자재 가격 변동, 물류 리스크, 지정학적 변수. 이 모든 것을 실시간으로 모니터링하고 대응하는 Agent는 막대한 가치를 만든다. 나의 시스템의 KVIC 시스템이 바로 이 방향이다. ArangoDB 지식 그래프 위에 산업 관계를 올리고, pgvector로 의미 검색을 하고, LangGraph로 분석 파이프라인을 돌린다. 이것은 한국 산업의 구조를 아는 사람만이 설계할 수 있다.
셋째, 중소기업용 경량 Agent 플랫폼이다. 앞서 말한 중소기업의 AI 격차를 메우는 방법이다. 대기업이 자체 구축한 Agent 역량을 플랫폼화해서, 협력사에 제공하는 모델이다. 현대자동차가 자기 공급망 Agent를 만들고, 그 일부를 1차·2차 협력사에 SaaS로 제공하면 어떤가. 협력사의 품질이 올라가고, 그것이 다시 완성차의 품질을 올린다. 선순환이다.
이런 모델은 이미 싹이 보인다. 삼성전자의 스마트 팩토리 지원 사업이 비슷한 방향이다. 아직 AI Agent 수준은 아니지만, 구조는 갖춰져 있다. 여기에 Agent 기술을 얹으면 된다.
잠시 멈추고 생각해보자
당신이 속한 산업에서, 한국 기업만이 가진 데이터나 경험은 무엇인가? 그것을 AI Agent로 만들면 세계 시장에서 경쟁력이 있는가?
29.6 남은 질문 — 누가 만들 것인가
기회를 봤다. 강점도 봤다. 약점도 직시했다. 방향도 제안했다. 그런데 하나가 남았다. 누가 만들 것인가.
솔직히 말하면, 이것이 가장 어려운 질문이다.
한국의 AI 인재는 부족하다. 정확히 말하면, LLM을 다룰 줄 아는 사람은 늘고 있다. 그러나 산업을 이해하면서 동시에 AI 시스템을 설계할 수 있는 사람은 극히 드물다. 이 교차점에 서 있는 사람이 한국형 Agentic Enterprise를 만들 수 있다.
나 자신이 그 교차점에 서려고 시도하고 있다. 산업을 분석해온 경험과, AI 시스템을 직접 만드는 실행력. 이 두 가지가 합쳐져야 산업형 Agent가 나온다. 어느 한쪽만으로는 안 된다.
AI만 아는 사람은 공장에서 길을 잃는다. 산업만 아는 사람은 코드 앞에서 멈춘다. 그 사이에 다리를 놓는 사람이 필요하다.
이 책을 여기까지 읽은 당신이 그 사람이 될 수 있다. 1부에서 일상의 지도를 그렸다. 2부에서 개인 Agent를 만들어봤다. 3부에서 기업의 현실을 봤다. 4부에서 프레임워크를 배웠다. 5부에서 산업과 한국의 위치를 살펴봤다. 이 모든 것이 합쳐지면, 당신은 산업을 이해하면서 Agent를 만들 수 있는 사람이 된다.
한국형 Agentic Enterprise는 실리콘밸리의 복사본이 아니다. 한국 산업의 복잡함을 알고, 한국 데이터를 다루고, 한국 조직 문화에서 작동하는 Agent다. 그것을 만들 수 있는 사람은 한국에 있다.
가능성은 분명하다. 다만 시간이 많지는 않다.
핵심 정리
한국 기업은 Agentic Enterprise 시대에 독특한 위치에 있다. 반도체, 자동차, 조선, 화학 등에서 수십 년간 복잡한 산업 현실을 견딘 경험이 강점이다. 산업형 AI Agent는 깨끗한 환경이 아니라 혼돈 속에서 작동해야 하기 때문이다.
빠른 실행력과 세계 최상위권의 디지털 인프라도 자산이다. PoC에서 운영으로 넘어가는 속도가 경쟁력이 되는 시대에, 한국 기업의 의사결정 속도는 유리하게 작용한다.
그러나 약점도 직시해야 한다. 영어 중심 AI 생태계에서 한국어 성능은 여전히 열세다. 데이터 규제의 모호함이 프로젝트를 지연시킨다. 대기업과 중소기업 사이의 AI 격차가 벌어지고 있다.
방향은 주권형 AI다. 핵심 데이터와 모델을 자기 손에 두는 것이다. 오픈소스 LLM을 활용하되, 한국 산업 데이터로 특화하고, 온프레미스 환경에서 운영하는 것이 현실적 경로다.
구체적 기회는 세 가지다. 제조 공정 Agent, 공급망 인텔리전스 Agent, 중소기업용 경량 Agent 플랫폼. 한국만이 가진 데이터와 도메인 지식이 해자가 된다.
결국 핵심은 사람이다. 산업을 이해하면서 동시에 AI 시스템을 설계할 수 있는 사람. 그 교차점에 서 있는 사람이 한국형 Agentic Enterprise를 만든다.
반드시 답해봐야 할 질문 5가지
질문 1. 당신의 조직에서 가장 오래된 경험 자산은 무엇인가? 그 경험이 은퇴와 함께 사라질 위험은 얼마나 큰가? AI Agent로 보존할 수 있는 부분은 어디인가?
질문 2. 한국어 LLM의 한계를 당신의 업무에서 구체적으로 느낀 적이 있는가? 산업 전문 용어, 법률 문서, 내부 보고서 중 어디에서 가장 문제가 컸는가?
질문 3. 당신의 조직은 AI 관련 데이터를 외부 클라우드에 보내고 있는가, 온프레미스에서 처리하고 있는가? 그 선택의 이유는 비용인가, 보안인가, 규제인가?
질문 4. 만약 당신의 조직이 AI Agent를 만들어 협력사에 제공한다면, 어떤 기능이 가장 가치 있을까? 품질 관리인가, 재고 최적화인가, 문서 자동화인가?
질문 5. 산업을 이해하면서 AI 시스템을 설계할 수 있는 사람이 당신의 조직에 몇 명 있는가? 그 인재를 어떻게 확보할 것인가?
더 깊이 탐구하기
이정동, 「축적의 길」 (2017). 한국 산업의 복잡성 경험이 왜 경쟁력인지에 대한 깊은 분석.
NVIDIA, 「Sovereign AI: The Path to Digital Independence」 (2024). 주권형 AI의 개념과 각국의 전략에 대한 기업 보고서.
맥킨지, 「The State of AI in 2025」 (2025). 글로벌 기업의 AI 도입 현황과 Pilot Purgatory 분석.
한국전자통신연구원(ETRI), 한국어 거대 언어모델 기술 동향 보고서 (2025). 한국어 LLM의 현재 수준과 한계에 대한 기술적 정리.
나의 시스템, KVIC(Korean Value-chain Intelligence Center) 기술 백서 (2025). 한국 산업 가치사슬을 ArangoDB 지식 그래프와 LangGraph로 분석하는 실무 사례.
28장의 여정이 끝났다. 이 책의 본문도 끝이다. 그러나 이야기는 여기서 끝나지 않는다. 에필로그에서 이 책의 여정을 돌아보고, 세 권 전체를 관통하는 하나의 질문으로 마무리한다.