8. 제한된 합리성 — Herbert Simon의 발견
이 챕터를 다 읽고 나면 알게 될 것: 인간은 합리적이지 않다는 것. 그리고 이 "한계"가 AI 시대에 어떤 의미를 갖는가.
인간은 합리적이지 않다. 정보가 부족하고, 시간이 모자라고, 인지 능력에 한계가 있다. 허버트 사이먼은 이를 "제한된 합리성"이라 불렀다. 인간은 최적화하지 않는다. 만족화한다. AI는 이 한계를 확장한다. 그러나 확장이지, 제거가 아니다.
호모 에코노미쿠스는 없다
경제학 교과서의 첫 장에 등장하는 인간이 있다. 호모 에코노미쿠스1다.
이 인간은 완벽하게 합리적이다. 모든 대안을 알고 있다. 각 대안의 결과를 정확히 예측한다. 가장 이익이 큰 대안을 선택한다. 감정에 흔들리지 않는다.
이런 인간은 현실에 존재하지 않는다.
점심을 고르는 장면을 생각해 보자. 완벽하게 합리적이라면, 반경 1km 내 모든 식당의 메뉴를 확인하고, 영양 성분을 비교하고, 가격 대비 만족도를 계산하고, 이동 시간과 대기 시간을 포함한 총비용을 산출한 뒤 최적의 선택을 해야 한다.
아무도 그렇게 하지 않는다.
"어제 먹은 데 맛있었으니 거기 가자." 이것이 현실의 의사결정이다.
사이먼의 발견
1957년, 허버트 사이먼이 "인간의 모형(Models of Man)"을 출간했다[1]. 정치학, 경제학, 심리학, 컴퓨터 과학을 넘나든 학자였다. 1978년 노벨 경제학상을 받았다.
사이먼의 핵심 주장은 단순하다.
인간의 합리성에는 세 가지 한계가 있다.
| 한계 | 내용 | AI의 확장 |
|---|---|---|
| 정보의 한계 | 모든 대안을 알 수 없다. 정보 수집에 비용이 든다. | 수천 소스를 동시에 검색·처리 |
| 인지의 한계 | 7±2개의 정보 청크만 동시에 다룰 수 있다. | 다변수 패턴 인식, 복잡한 분석 |
| 시간의 한계 | 모든 대안을 탐색할 시간이 없다. | 실시간 분석, 일주일 → 몇 분 |
Figure 2. 제한된 합리성의 세 가지 한계와 AI의 확장 — Simon (1957), 저자 재구성
첫째, 정보의 한계다. 모든 대안을 알 수 없다. 모든 결과를 예측할 수 없다. 정보를 수집하는 데 비용이 든다.
둘째, 인지의 한계다. 수집한 정보를 모두 처리할 수 없다. 인간의 뇌는 동시에 7±2개의 정보 청크2만 다룰 수 있다. 복잡한 문제를 완전히 분석하는 것은 불가능하다.
셋째, 시간의 한계다. 모든 대안을 탐색할 시간이 없다. 결정을 내려야 할 시한이 있다. 시간이 지나면 기회가 사라진다.
이 세 한계 때문에 인간은 최적해(optimal solution)를 찾지 않는다. 찾을 수 없다. 대신 "충분히 좋은" 해를 찾는다. 사이먼은 이것을 만족화(satisficing)3라 불렀다. "satisfy"와 "suffice"를 합친 신조어다.
만족화는 포기가 아니다. 제한된 조건에서의 합리적 전략이다.
회의실의 제한된 합리성
사이먼의 이론이 추상적으로 느껴질 수 있다. 기업의 회의실로 가져오자.
경영진이 AI 투자를 결정하는 장면이다.
정보의 한계가 있다. AI 기술이 빠르게 바뀐다. 6개월 전 정보가 이미 낡았다. 경쟁사가 무엇을 하는지 정확히 모른다. 벤더가 제공하는 정보는 편향되어 있다.
인지의 한계가 있다. 기술적 복잡성이 높다. LLM, RAG, 에이전트, 오케스트레이션 — 용어만으로도 혼란스럽다. 이 기술들의 상호작용을 완전히 이해하기 어렵다.
시간의 한계가 있다. 분기별 실적 발표가 다가온다. 이사회에 보고해야 한다. "충분히 검토한 후 결정하겠습니다"라고 말할 시간이 없다.
그래서 경영진은 만족화한다.
"동종 업계에서 A 기업이 도입했다니 검토해 보자." "컨설팅 펌이 추천하니 따라가자." "CTO가 괜찮다고 하니 진행하자."
이것이 잘못된 것이 아니다. 제한된 조건에서 가능한 전략이다. 다만, 이 만족화의 질을 높이는 것이 중요하다. 더 좋은 프레임워크가 있으면, 같은 시간과 정보로 더 나은 만족화를 할 수 있다.
이 프레임워크를 제공하는 것이 이 책의 Part 4(RAPIDS, 3계층 ROI)다.
확증 편향과 집단 사고
사이먼 이후, 행동경제학은 인간의 인지적 편향을 더 구체적으로 밝혔다.
대니얼 카너먼은 "빠르게 생각하고 느리게 생각하기"에서 두 시스템을 정의했다[2]. 시스템 1은 빠르고 직관적이다. 시스템 2는 느리고 분석적이다. 대부분의 결정은 시스템 1이 한다. 시스템 2는 게으르다.
확증 편향4이 대표적이다. 자기가 이미 믿는 것을 확인하는 정보만 찾는다. AI 도입을 결정한 경영진은 AI 성공 사례만 찾는다. 실패 사례는 무시한다. 도입에 반대하는 경영진은 실패 사례만 찾는다.
집단 사고5도 있다. 회의실에서 다수의 의견에 반대하기 어렵다. CTO가 "이 기술이 좋다"고 하면, 반론을 제기하기 꺼린다. 특히 그 기술에 대해 잘 모를 때.
이 편향들이 127개의 과제를 만든다. 검증 없이, 우선순위 없이, "가능해 보이는 것"을 리스트에 올린다.
AI가 합리성을 확장하는가
사이먼이 AI에 대해서도 연구했다는 것을 아는 사람은 많지 않다. 사이먼은 AI의 선구자이기도 했다. 1956년 앨런 뉴웰과 함께 최초의 AI 프로그램(Logic Theorist)을 만들었다.
사이먼은 평생 주장했다. 지능적 시스템은 인간의 판단을 대체하는 것이 아니라 보강해야 한다고[3].
이 관점에서 AI는 제한된 합리성의 세 한계를 확장한다.
정보의 한계를 확장한다. AI가 수천 개의 소스를 동시에 검색한다. 인간이 접근할 수 없는 양의 데이터를 처리한다.
인지의 한계를 확장한다. 복잡한 패턴을 인식한다. 다변수 분석을 수행한다. 인간의 7±2개 한계를 넘어선다.
시간의 한계를 확장한다. 실시간으로 분석한다. 인간이 일주일 걸리는 분석을 몇 분 만에 한다.
그러나 확장이지, 제거가 아니다.
AI도 제한된 합리성을 갖기 때문이다. 학습 데이터에 편향이 있다. 학습하지 않은 상황에 대처하지 못한다. 할루시네이션6이 발생한다. 인간의 제한된 합리성이 AI의 제한된 합리성으로 확장된 것이지, 완전한 합리성이 달성된 것이 아니다.
OpenAI의 엔지니어들은 사이먼의 "제한된 합리성"과 "만족화"를 AI 설계의 핵심 참조 프레임으로 활용한다[4]. 완벽한 답이 아니라 "충분히 좋은 답"을 빠르게 제공하는 것이 실전에서 더 유용하다는 인식이다.
인간이 합리적이지 않다면, AI가 그 부족분을 채울 수 있는가? 어떻게 채우는가? 다음 챕터에서 인간-AI 보완성의 구조를 본다.
References
[1] Simon, H., 'Models of Man: Social and Rational', Wiley, 1957. — 제한된 합리성과 만족화 개념의 원전
[2] Kahneman, D., 'Thinking, Fast and Slow', FSG, 2011. — 시스템 1(직관)과 시스템 2(분석)의 이중 프로세스 이론
[3] Schwarz, G., 'Bounded Rationality, Satisficing, Artificial Intelligence, and Decision-Making in Public Organizations: The Contributions of Herbert Simon', Public Administration Review, 2022. https://onlinelibrary.wiley.com/doi/10.1111/puar.13540 — 사이먼의 AI 연구와 의사결정 이론의 통합
[4] Duperrin, B., 'Bounded Rationality in Management in the Age of AI', 2026. https://www.duperrin.com/english/2026/05/01/bounded-rationality-decision-ai/ — 사이먼의 이론을 2026년 AI 맥락에서 재해석
Footnotes
-
호모 에코노미쿠스(Homo Economicus) — 경제학에서 가정하는 완벽하게 합리적인 경제적 인간. ↩
-
정보 청크(Information Chunk) — 단기 기억에서 하나의 단위로 처리되는 정보 묶음. 밀러가 1956년에 7±2개로 제시. ↩
-
만족화(Satisficing) — 최적해 대신 "충분히 좋은" 해를 선택하는 의사결정 전략. satisfy + suffice의 합성어. ↩
-
확증 편향(Confirmation Bias) — 자신의 기존 믿음을 확인하는 정보만 선택적으로 수집하고 해석하는 경향. ↩
-
집단 사고(Groupthink) — 집단의 응집력이 비판적 사고를 억제하여 잘못된 의사결정에 이르는 현상. ↩
-
할루시네이션(Hallucination) — AI가 사실이 아닌 정보를 마치 사실인 것처럼 생성하는 현상. ↩