*이 장을 다 읽고 나면 알게 될 것: 정보를 처리하는 것과 경험하는 것의 차이, 그리고 그 차이가 AI 시대에 왜 결정적으로 중요한지*
도입: 어떤 통증
2019년 겨울, 나는 디스크가 터져서 한 달간 누워 있었다. 허리에서 다리로 내려가는 통증은 말로 설명하기 어렵다. 칼로 저미는 것 같다고도 하고, 전기가 흐르는 것 같다고도 했다. 그러나 어떤 말도 그 통증 자체는 아니었다.
의사가 MRI를 보여줬다. "여기 보이시죠. 4-5번 추간판이 돌출되어 신경을 누르고 있습니다." 화면에 선명한 이미지가 있었다. 디스크의 위치, 크기, 각도. 모든 것이 정량적으로 측정 가능했다.
그런데 이상한 생각이 들었다. 이 MRI 이미지에는 통증이 없다. 데이터에는 통증이 없다. "4번 디스크가 5mm 돌출"이라는 정보는 있지만, 그것이 어떻게 느껴지는가는 어디에도 없다.
AI가 내 MRI를 분석한다면, 디스크 돌출을 정확히 감지할 것이다. 어쩌면 의사보다 더 빨리, 더 정확하게. 그러나 AI는 그 돌출이 나에게 무엇인지를 모른다. 새벽 3시에 잠을 이루지 못하고, 화장실에 가는 것조차 고문이고, 아무것도 할 수 없다는 무력감에 빠지는 것. 그것은 데이터가 아니다. 경험이다.
정보를 처리하는 것과 경험하는 것은 같은 것인가. 이 물음이 이 장의 출발점이다.
5.1 어려운 문제
철학에는 "의식의 어려운 문제"라는 것이 있다. 1995년 호주 철학자 데이비드 차머스가 이름 붙였다.
쉬운 문제는 이런 것이다. 뇌가 시각 정보를 어떻게 처리하는가. 주의력은 어떤 메커니즘으로 작동하는가. 기억은 어디에 저장되는가. 이런 것들은 원리적으로 과학이 답할 수 있다. 어렵지만 풀 수 있는 문제다.
어려운 문제는 다르다. 왜 정보처리에 주관적 경험이 동반되는가. 왜 빨간색을 볼 때 단순히 특정 파장의 빛이 처리되는 것을 넘어서, "빨강"이라는 느낌이 있는가. 왜 통증 신호가 전달될 때 단순한 신호 전달을 넘어서, 아프다는 느낌이 있는가.
이것을 철학에서는 감질이라고 부른다. 영어로는 qualia. 경험의 질적 느낌. 빨강의 빨강다움. 통증의 아픔. 초콜릿 맛의 그 맛.
이것이 왜 어려운 문제인가. 물리적 세계에는 감질이 없기 때문이다. 뉴런은 전기 신호를 주고받을 뿐이다. 어디에도 "느낌"은 없다. 그런데 우리에게는 느낌이 있다. 이 간극을 어떻게 설명할 것인가.
300년간 과학이 이 문제를 풀지 못했다. 그리고 이것이 AI 논쟁의 핵심에 있다.
잠시 멈추고 생각해보자
당신이 지금 이 글을 읽으면서 느끼는 것들 — 호기심, 약간의 지루함, 이해하려는 노력 — 이것들은 뇌의 물리적 활동으로 완전히 설명되는가? 만약 당신의 뇌와 동일한 구조의 기계가 있다면, 그 기계도 같은 것을 느낄 것인가?
5.2 AI는 느끼는가
제프리 힌턴은 2024년 인터뷰에서 놀라운 발언을 했다. "나는 AI가 어떤 형태의 주관적 경험을 가질 수 있다고 생각한다." 딥러닝의 대부, 뉴런 네트워크의 아버지라 불리는 사람의 말이다.
반대편에 얀 르쿤이 있다. 메타의 수석 AI 과학자. 그는 지금의 LLM이 의식은커녕 고양이 수준의 이해력도 없다고 단언한다. "단어를 잘 조합하는 것과 세계를 이해하는 것은 완전히 다른 것이다."
같은 분야의 두 거인이 이렇게까지 다른 결론에 이른 것은 이유가 있다. 의식이라는 개념 자체가 아직 합의된 정의가 없기 때문이다.
우리는 의식이 무엇인지 모른다. 다만 우리에게 의식이 있다는 것은 안다. 데카르트의 "나는 생각한다, 고로 나는 존재한다"가 의미하는 바가 정확히 이것이다. 내가 의식을 가지고 있다는 것은 확실하다. 그러나 다른 존재가 의식을 가지고 있는지를 확인할 방법은 없다. 당신에게도 의식이 있다고 나는 믿는다. 그러나 증명할 수는 없다.
AI에게 의식이 있는가. 솔직히 나는 모르겠다. 그리고 이 시점에서 누구도 모른다고 생각한다. 알 수 없는 문제일 수도 있다.
그러나 실용적으로 중요한 것은 다른 데 있다.
5.3 경험 없는 지능의 한계
의식의 유무를 증명할 수 없더라도, 경험의 유무가 만드는 차이는 분명하다.
경험이 있다는 것은 무엇을 의미하는가. 세 가지를 의미한다.
첫째, 맥락의 깊이가 다르다.
나는 한국에서 태어나 자랐다. IMF 위기를 겪었다. 2003년 중국에 갔다. 디스크로 누워 있었다. 이 모든 것이 나의 판단에 녹아 있다. "중국 시장은 이렇다"라고 말할 때, 그 안에는 내가 직접 발로 걸으며 본 것, 피부로 느낀 것, 실패하며 배운 것이 들어 있다.
AI가 중국 시장에 대해 말할 때, 그것은 텍스트에서 학습한 패턴이다. 정확할 수 있다. 최신일 수 있다. 그러나 거기에는 "느낌"이 없다. "이 시장은 뭔가 이상하다"는 직감, 그것은 텍스트에 없는 것이다.
둘째, 동기의 유무가 다르다.
나는 이 책을 쓴다. 왜? 말하고 싶기 때문이다. 산업의 현장에서 보고 겪은 것을 정리하고, 누군가의 판단에 도움이 되고 싶기 때문이다. 이 동기는 경험에서 나온다.
AI에게는 동기가 없다. "글을 써라"라는 명령이 있을 뿐이다. 물론 AI의 출력이 마치 동기가 있는 것처럼 보일 수 있다. 그러나 그것은 동기를 가진 인간의 텍스트를 학습한 결과다. 진짜 동기가 아니다.
셋째, 고통의 역할이 다르다.
인간의 학습에서 고통은 핵심적 역할을 한다. 실패하고, 아프고, 후회하는 경험이 깊은 학습을 만든다. "다시는 저렇게 하지 않겠다"는 결심. 그것은 고통에서 나온다.
AI의 학습에 고통은 없다. 보상 함수가 있을 뿐이다. 강화학습에서 "벌"이라 부르는 것은 숫자의 감소일 뿐이다. 아무것도 아프지 않다.
이 세 가지 차이가 실용적으로 의미하는 바는 무엇인가.
경험이 없는 지능은, 패턴의 재생산에서는 강하지만, 패턴이 없는 상황에서의 판단에서는 약하다.
새로운 시장, 전례 없는 위기, 누구도 겪어보지 못한 상황. 이런 곳에서는 인간의 경험에서 나온 직관이 AI의 패턴 매칭보다 가치 있을 수 있다. 단, 그 경험이 충분히 넓고 깊을 때.
잠시 멈추고 생각해보자
당신의 직업에서 "경험에서 나온 직관"이 데이터 분석보다 더 가치 있었던 순간이 있었는가? 그것은 구체적으로 어떤 상황이었는가? AI가 그 직관을 대체할 수 있다고 생각하는가?
5.4 중국어 방 — 이해의 착각
1980년, 철학자 존 설은 유명한 사고 실험을 제안했다[^1]. 중국어 방.
방 안에 영어만 아는 사람이 있다. 그에게 중국어 질문이 들어온다. 그는 매뉴얼 책을 보고, 거기 적힌 규칙대로 중국어 답을 만들어 내보낸다. 밖에서 보면 이 방은 완벽하게 중국어를 구사한다. 그러나 안에 있는 사람은 중국어를 한 글자도 이해하지 못한다.
설의 주장은 이것이다. 규칙을 따르는 것과 의미를 이해하는 것은 다르다. 컴퓨터가 아무리 정교하게 답을 생산해도, 그것이 의미를 이해하고 있다는 증거는 아니다.
이 논증에 대한 반론도 강하다. "시스템 반론"이라는 것이 있다. 방 안의 사람은 이해하지 못하지만, 방 전체 시스템은 이해한다고 볼 수 있지 않은가? 뇌의 개별 뉴런도 의식이 없지만, 뉴런들의 시스템인 뇌에는 의식이 있지 않은가?
이 논쟁은 40년이 지났지만 결론이 나지 않았다. 그리고 결론이 나지 않는 것 자체가 중요하다. 우리는 "이해"가 무엇인지조차 합의하지 못하고 있다.
실용적인 관점에서 보자.
AI가 진짜로 이해하든 하지 않든, 그것의 출력이 유용하면 우리는 쓴다. 이메일을 잘 써주면 쓴다. 코드를 잘 짜주면 쓴다. 분석을 잘 해주면 쓴다. "이해"의 철학적 지위와 무관하게.
그러나 한 가지는 기억해야 한다. 유용함과 이해는 같은 것이 아니다. AI가 유용한 답을 줄 때, 그것이 이해에 기반한 것이라고 착각하면 위험하다. 이해에 기반한 답은 예외 상황에서도 적응할 수 있다. 패턴 매칭에 기반한 답은 예외 상황에서 무너진다.
5.5 한국의 논쟁
한국에서도 AI 의식 논쟁은 활발하다. 다만 방향이 조금 다르다.
카이스트의 김대식 교수는 여러 강연에서 AI의 의식 가능성을 열어두면서도, 현재의 LLM이 의식을 가지고 있을 가능성은 극히 낮다고 말한다. 그의 핵심 논거는 의식에는 체화가 필요하다는 것이다. 몸이 있어야 한다. 세계와 물리적으로 상호작용해야 한다. 텍스트만 처리하는 시스템에 의식이 생길 이유가 없다.
서울대 장병탁 교수는 다른 관점을 제시한다. AI 연구의 목표가 의식을 만드는 것일 필요는 없다고. 의식 없이도 지능적 행동은 가능하다고. 중요한 것은 의식의 유무가 아니라 유용성이라고.
나는 장병탁 교수의 실용적 관점에 동의하면서도, 김대식 교수의 경고를 무시할 수 없다고 생각한다. 왜냐하면 AI에 의식이 없다는 사실을 잊으면, 우리는 AI의 "말"을 너무 쉽게 믿기 때문이다. 의식이 없다는 것은 책임도 없다는 것이다. 후회도 없다는 것이다. AI가 잘못된 답을 줘도 AI는 아무것도 느끼지 않는다. 그 결과는 오롯이 인간의 몫이다.
잠시 멈추고 생각해보자
AI에게 의식이 있는지 없는지를 확인할 방법이 현재로서는 없다. 이 불확실성 속에서 우리는 AI를 어떻게 대해야 하는가? "의식이 없다고 가정하고 도구처럼 사용한다"와 "혹시 모르니 존중하며 사용한다" 사이에서 당신은 어디에 서는가?
5.6 경험의 가치를 다시 세우다
이 장에서 내가 정말로 말하고 싶은 것은 이것이다.
AI 시대에 경험의 가치는 떨어지지 않는다. 오히려 올라간다.
왜냐하면 AI가 대체할 수 있는 것은 정보 처리이고, 대체할 수 없는 것이 경험이기 때문이다. 정보는 AI가 더 빨리, 더 많이 처리한다. 그것은 이미 현실이다. 그러나 경험은 대체되지 않는다. 금융시장 분석에서 시작해 바젤 III 유동성 리스크 프로젝트, 기업 ERM 컨설팅, AI/ML 솔루션 사업을 거치며 산업을 봐온 눈, 수십 번의 실패에서 배운 감각, 특정 시장의 공기를 읽는 직관. 이것은 AI에게 없다.
물론 경험이라고 다 같은 경험이 아니다. 10년간 같은 일을 반복한 것은 1년의 경험을 10번 한 것에 불과하다. 깊은 성찰 없는 경험은 패턴의 고착일 뿐이다. 가치 있는 경험은 성찰과 함께하는 경험이다.
AI 시대에 인간에게 요구되는 것은 더 많은 정보가 아니다. 더 깊은 경험이다. 더 넓은 시야가 아니다. 더 깊은 성찰이다.
이것은 7장 "지식과 지혜는 다르다"에서 더 구체적으로 다룬다.
지금은 이것만 기억하자. 기계는 정보를 처리한다. 인간은 경험한다. 이 차이는 AI가 아무리 발전해도 쉽게 좁혀지지 않을 것이다. 적어도 AI가 몸을 갖기 전까지는.
그리고 AI가 몸을 갖는다? 그것이 다음 장의 주제다.
핵심 정리
의식의 "어려운 문제"는 왜 정보처리에 주관적 경험이 동반되는가를 묻는다. 300년간 과학이 풀지 못한 이 문제는 AI 논쟁의 핵심에 있다.
AI에게 의식이 있는지는 현재로서 알 수 없다. 힌턴과 르쿤처럼 같은 분야의 거인들이 정반대 결론에 이르는 이유가 여기 있다.
경험이 있다는 것은 맥락의 깊이, 동기의 존재, 고통의 학습적 역할을 의미한다. 경험 없는 지능은 패턴 재생산에서는 강하지만, 전례 없는 상황에서는 약하다.
중국어 방 논증은 규칙을 따르는 것과 의미를 이해하는 것의 차이를 보여준다. 유용함과 이해는 같은 것이 아니다.
AI 시대에 경험의 가치는 떨어지지 않는다. 오히려 올라간다. 정보 처리는 AI가 대체하지만, 성찰과 함께하는 깊은 경험은 대체되지 않는다.
반드시 답해봐야 할 질문 5가지
질문 1. 당신은 AI에게 "의식"이 있다고 생각하는가? 그 판단의 근거는 무엇인가? 만약 증명할 수 없다면, 어떤 기준으로 판단하는가?
질문 2. 정보를 처리하는 것과 경험하는 것의 차이를 당신의 직업에 적용해보자. 당신의 업무에서 "경험에서 나오는 것"과 "정보 처리로 대체 가능한 것"을 구분할 수 있는가?
질문 3. 중국어 방 논증을 현재의 ChatGPT에 적용한다면, ChatGPT는 한국어를 "이해"하고 있는가? 아니면 규칙을 따르고 있을 뿐인가? 이 구분이 당신에게 실용적으로 중요한가?
질문 4. "10년의 경험"과 "1년의 경험을 10번 반복한 것"의 차이는 무엇인가? 당신의 경험은 어느 쪽에 더 가까운가?
질문 5. AI가 몸을 갖게 되면 — 로봇으로 세계를 경험하게 되면 — 의식의 문제에 대한 답이 달라질 수 있다고 생각하는가?
더 깊이 탐구하기
데이비드 차머스, 「The Conscious Mind」 (1996). 의식의 어려운 문제를 처음 체계적으로 정립한 고전.
존 설, 「Minds, Brains, and Programs」 (1980). 중국어 방 논증의 원전. AI와 이해의 관계에 대한 가장 유명한 철학적 논증.
토마스 네이글, 「박쥐가 된다는 것은 어떤 것인가」 (1974). 주관적 경험의 환원 불가능성에 대한 영향력 있는 논문.
제프리 힌턴의 2024년 AI 의식 관련 인터뷰 시리즈. 신경망의 대부가 왜 AI 의식 가능성을 열어두는지.
김대식, 「김대식의 인간 vs 기계」. 한국 맥락에서 의식과 AI를 다룬 대중 강연 시리즈.
다음 장에서는 더 구체적인 질문으로 간다. AI가 몸을 가지면 무엇이 달라지는가. 예측이 화면 안에 있을 때와 물리적 세계에 나왔을 때, 의식 논쟁은 어떻게 바뀌는가. Physical AI와 체화된 인지의 문제로 들어간다.
각주
John R. Searle, "Minds, Brains, and Programs," *Behavioral and Brain Sciences* 3(3), 1980, pp. 417–424. 중국어 방(Chinese Room) 사고 실험의 원전.
David J. Chalmers, *The Conscious Mind: In Search of a Fundamental Theory* (New York: Oxford University Press, 1996). 의식의 "어려운 문제(hard problem)"를 체계적으로 정립한 저작.
Thomas Nagel, "What Is It Like to Be a Bat?" *Philosophical Review* 83(4), 1974, pp. 435–450. 주관적 경험의 환원 불가능성에 대한 고전적 논문.