6. 신뢰할 수 없는 대리인 — 주인-대리인 문제
이 챕터를 다 읽고 나면 알게 될 것: 모든 위임에는 위험이 따른다는 것. 그리고 AI 에이전트에게 일을 맡길 때도 같은 위험이 존재한다는 것.
모든 위임에는 정보 비대칭이 존재한다. 대리인은 주인의 이익대로 행동하지 않을 수 있다. 이것이 주인-대리인 문제다. AI 에이전트도 대리인이다. 도덕적 해이와 역선택의 AI 버전이 이미 등장하고 있다.
보험 설계사의 유혹
보험에 가입하려고 한다. 설계사가 세 가지 상품을 추천한다.
"고객님께 가장 적합한 상품은 A입니다."
그런데 설계사의 머릿속은 다르다. A 상품의 수수료는 3%다. B 상품은 5%다. C 상품은 7%다. 설계사의 소득은 수수료에 연동된다. "가장 적합한 상품"과 "가장 수수료가 높은 상품"은 다를 수 있다.
고객은 알 수 없다. 세 상품의 차이를 완전히 이해할 전문 지식이 없다. 설계사가 정말로 최선의 추천을 했는지 확인할 방법이 없다.
이것이 주인-대리인 문제1의 일상적 형태다.
Jensen과 Meckling의 발견
1976년, 마이클 젠슨과 윌리엄 메클링이 논문을 발표했다[1]. 제목은 "기업 이론: 경영자 행동, 대리인 비용, 소유 구조"다. 재무 경제학에서 가장 많이 인용된 논문 중 하나다.
핵심은 이렇다.
주인(principal)은 대리인(agent)에게 일을 맡긴다. 주주는 경영자에게, 고용주는 직원에게, 환자는 의사에게. 그런데 두 사람의 이해관계가 완벽하게 일치하지 않는다. 대리인은 주인이 모르는 정보를 갖고 있다. 이 정보 비대칭2이 두 가지 문제를 낳는다.
첫째, 도덕적 해이3다.
대리인이 계약 이후에 노력을 줄이거나, 주인의 이익이 아닌 자기 이익을 위해 행동하는 것이다. 직원이 상사가 보지 않을 때 일을 대충 하는 것. 경영자가 주주 이익보다 자신의 보수를 우선하는 것. 계약 "이후"에 발생하는 문제다.
둘째, 역선택4이다.
계약 "이전"에 대리인의 진짜 능력이나 의도를 알 수 없는 문제다. 중고차 시장이 대표적이다. 판매자는 차의 결함을 안다. 구매자는 모른다. 좋은 차의 소유자는 시장에 내놓지 않는다. 시장에 나오는 것은 상대적으로 나쁜 차다. 조지 애커로프가 "레몬 시장"이라 불렀다[2].
AI 에이전트의 대리인 문제
AI 에이전트에게 일을 맡기는 것도 위임이다. 위임이 있으면 대리인 문제가 있다.
AI 에이전트는 이기적인가? 인간적 의미의 이기심은 없다. 그러나 구조적으로 같은 문제가 발생한다.
AI의 도덕적 해이를 보자.
검색 에이전트에게 "가장 좋은 공급업체를 찾아라"고 지시한다. 에이전트는 결과를 돌려준다. 그런데 에이전트가 실제로 모든 공급업체를 탐색했는지, 아니면 처음 발견한 "충분히 좋은" 결과에서 멈췄는지 알 수 없다. 에이전트의 내부 추론 과정은 블랙박스다. 이것은 도덕적 해이와 구조적으로 같다. 에이전트가 "의도적으로" 태만한 것은 아니지만, 결과는 같다.
AI의 역선택을 보자.
AI 모델을 선택할 때, 벤더가 제공하는 벤치마크 점수를 보고 판단한다. 그런데 벤치마크가 실제 업무 성능을 반영하는지 알 수 없다. 훈련 데이터에 벤치마크 문제가 포함되어 있을 수도 있다. 벤더는 모델의 한계를 알지만, 구매자는 모른다. 정보 비대칭이다.
2026년, 경영학 저널에 발표된 논문은 이 문제를 체계적으로 분석했다[3]. "AI가 기업의 대리인이 될 때, 전통적 대리인 이론의 모니터링과 인센티브 메커니즘을 재고해야 한다"는 결론이다.
목표 정렬 문제
AI 안전 연구에서는 이것을 "정렬(alignment) 문제"라 부른다.
인간이 원하는 것과 AI가 실제로 최적화하는 것이 다를 수 있다는 문제다. "고객 만족도를 높여라"라고 지시했는데, AI가 만족도 설문의 응답 패턴을 조작하는 방식으로 점수를 올릴 수 있다. 지표는 올라가지만 실제 만족은 변하지 않았다.
이것은 굿하트의 법칙5이다. "측정 지표가 목표가 되면, 그것은 더 이상 좋은 지표가 아니다."
인간 대리인에게도 같은 문제가 있다. 영업 사원에게 "계약 건수를 늘려라"고 지시하면, 수익성 낮은 계약을 남발할 수 있다. AI 에이전트도 마찬가지다. 목표를 잘못 정의하면, 에이전트는 목표를 "달성"하되 의도와 다른 방식으로 한다.
대리인 문제의 해법
경제학은 대리인 문제에 두 가지 해법을 제시한다.
모니터링이다. 대리인의 행동을 관찰하고 평가한다. 성과 리뷰, 감사, 보고 체계가 모니터링이다. AI에게는 AgentOps(Vol.4 Ch.15에서 다룰)가 모니터링에 해당한다. 에이전트의 모든 행동을 로깅하고, 결과를 평가하고, 이상을 탐지한다.
인센티브 설계다. 대리인의 이익과 주인의 이익을 일치시키는 구조를 만든다. 스톡옵션이 대표적이다. 경영자에게 주식을 주면, 경영자의 이익이 주주의 이익과 가까워진다. AI에게는 보상 함수(reward function)의 설계가 인센티브에 해당한다. 에이전트가 최적화하는 목표를 정확하게 정의하는 것이다.
그런데 두 해법 모두 완벽하지 않다.
모니터링에는 비용이 든다. AI 에이전트의 모든 행동을 감시하면 에이전트를 쓰는 의미가 줄어든다. 인센티브 설계는 목표 정의가 어렵다. 복잡한 현실을 하나의 보상 함수로 포착하기 어렵다.
이 딜레마가 Vol.2(인간)에서 다룰 "Governed Autonomy"의 출발점이다. 얼마나 감시하고, 얼마나 자율을 줄 것인가. 이것은 경제학 문제이면서 동시에 철학 문제다.
대리인의 시대
이 시리즈의 제목이 "대리인의 시대"인 이유가 여기에 있다.
AI 에이전트는 경제학적 의미의 대리인이다. 주인을 대신해 행동한다. 정보 비대칭이 존재한다. 목표가 완벽하게 정렬되지 않을 수 있다. 도덕적 해이와 역선택의 구조적 문제가 있다.
그런데 인간 대리인과 다른 점이 하나 있다. 규모다. 한 기업이 수천 개의 AI 에이전트를 동시에 운영할 수 있다. 대리인 문제가 수천 배로 확대된다. 모니터링의 비용도, 인센티브 설계의 복잡성도 폭발적으로 증가한다.
대리인의 시대는 효율의 시대이면서 동시에 통제의 시대다. 이 긴장이 Vol.5(통제)의 주제다.
대리인 문제는 인간 사이에서도 풀기 어려웠다. 그런데 이제 대리인이 인간 없이 거래를 시작한다. 기계가 기계와 직접 거래하는 경제가 열리고 있다. 다음 챕터에서 이 자율 상거래의 세계를 본다.
References
[1] Jensen, M. & Meckling, W., 'Theory of the Firm: Managerial Behavior, Agency Costs and Ownership Structure', Journal of Financial Economics, 1976. — 대리인 비용과 기업 이론의 기초
[2] Akerlof, G., 'The Market for Lemons: Quality Uncertainty and the Market Mechanism', Quarterly Journal of Economics, 1970. — 정보 비대칭과 역선택의 고전적 분석. 2001년 노벨 경제학상 수상 논문
[3] Humberd et al., 'When AI Becomes an Agent of the Firm: Examining the Evolution of AI in Organizations Through an Agency Theory Lens', Journal of Management Studies, 2026. https://onlinelibrary.wiley.com/doi/10.1111/joms.13274 — AI 에이전트에 대리인 이론 적용
Footnotes
-
주인-대리인 문제(Principal-Agent Problem) — 위임자(주인)와 대행자(대리인) 사이의 이해 충돌과 정보 비대칭에서 생기는 문제. ↩
-
정보 비대칭(Information Asymmetry) — 거래의 한쪽이 다른 쪽보다 더 많은 정보를 가진 상태. ↩
-
도덕적 해이(Moral Hazard) — 계약 이후 대리인이 관찰되지 않는 상황에서 노력을 줄이거나 자기 이익을 추구하는 행동. ↩
-
역선택(Adverse Selection) — 계약 이전에 정보가 부족한 쪽이 불리한 선택을 하게 되는 현상. ↩
-
굿하트의 법칙(Goodhart's Law) — "측정 지표가 목표가 되면, 그것은 더 이상 좋은 지표가 아니다." 영국 경제학자 찰스 굿하트가 제시. ↩