중국은 모델을 열었고 미국은 닫았다

두 개의 길

중국 쪽부터 보자. 허깅페이스가 2026년 8월 여름 보고서를 냈다. 중국 연구소가 올해 공개한 200억 파라미터 이상 모델은 178개다. 그중 59%가 아파치 2.0, 22%가 MIT 라이선스를 달았다. 둘 다 상업적 이용과 수정을 거의 제한하지 않는다. 같은 크기의 미국 모델은 이런 라이선스가 29%였다. 41%는 자체 약관을 달았다.

규모도 다르다. 중국 연구소는 달마다 7,540억 파라미터 이상 모델을 공개했다. 가장 큰 달에는 2조 7,800억까지 올라갔다. 미국의 공개 모델은 일곱 달 중 다섯 달이 1,300억을 넘지 못했다. 중국이 가장 작게 낸 달의 모델도 그 다섯 배를 넘는다.

알리바바의 큐웬 계열은 올해에만 20억 회 넘게 내려받혔다. 큐웬을 바탕으로 만든 파생 모델은 15만 개가 넘는다. 하루에 180~210개씩 새로 올라온 규모가 그렇다.

중국은 이 흐름을 외교로 잇는다. 2026년 7월 16일 29개국이 상하이에서 협정에 서명했다. 세계인공지능협력기구를 세우는 협정이다. 러시아, 파키스탄, 인도네시아, 카자흐스탄, 라오스 등이 창립 회원국이 됐다. 시진핑 주석이 직접 설립을 발표했다. 이 기구는 본부를 상하이에 둔다. AI 협력과 거버넌스만 다루는 첫 정부 간 기구를 표방한다.

미국은 반대로 간다. 2025년 7월 백악관이 AI 행동계획을 냈다. 오픈소스와 오픈웨이트 모델을 적극 권장했다. 그러나 가장 큰 개방 진영이던 메타가 방향을 틀었다. 메타는 2026년 4월 8일 첫 폐쇄형 모델 뮤즈 스파크를 내놓았다. 새로 만든 초지능 연구조직의 첫 제품이었다. 초지능급 모델은 공개하지 않겠다는 입장도 보도됐다.

폐쇄는 모델 공개에서만 일어나지 않는다. 파이낸셜타임스가 2026년 9월 한 사례를 보도했다. 앤트로픽이 영국 AI 보안연구소에 미토스 5.1을 넘기지 않았다. 출시 전 시험에 쓸 접근 권한이었다. 연구소가 앤트로픽의 출시 전 평가에서 빠진 첫 사례였다. 이유는 확인되지 않았다.

개방은 기술을 흩고, 규칙은 흩지 않는다

가중치를 공개하면 누구나 모델을 내려받아 고칠 수 있다. 기술은 분명히 흩어진다. 그런데 모델이 무엇을 말하고 무엇을 거부할지는 공개 이전에 정해진다.

중국에는 생성형 AI 서비스 관리 잠정조치가 있다. 제4조는 서비스가 사회주의 핵심가치를 견지해야 한다고 규정한다. 국가 전복을 선동하거나 국가 이미지를 해치는 내용도 금지한다. 2025년 9월 1일부터는 AI가 만든 콘텐츠에 표시를 달아야 한다. 눈에 보이는 표시와 기계가 읽는 표시를 함께 달아야 한다. 인터넷정보판공실, 공업정보화부, 공안부, 방송총국이 함께 만든 규정이다. 중국의 공개 모델은 이 규범 안에서 만들어져 세계로 나간다.

미국의 폐쇄 모델에도 규칙은 있다. 규칙을 정하는 주체가 국가가 아니라 기업일 뿐이다. 무엇을 거부할지는 각 회사의 이용 정책이 정한다. 누구에게 접근을 줄지는 회사의 내부 판단이 정한다.

빅테크 4사는 2026년 설비투자에 7천억 달러 가까이 쓸 계획이다. 이 규모를 감당하는 곳만이 가장 강한 모델의 규칙을 처음 정한다. 미국 행동계획이 공개 모델을 권장해도 그렇다. 최상위 모델의 공개 여부는 결국 기업 판단에 남는다.

---

두 경로의 비교

---

사람이 필요 없어지는 구조

권력 집중은 새로운 걱정이 아니다. 새로운 것은 교정 장치가 약해지는 방식이다.

점진적 무력화라는 개념이 2025년 국제머신러닝학회에서 나왔다. 얀 쿨베이트 등 여섯 연구자가 내놓았다. 급격한 AI 반란이 아니라 조금씩 쌓이는 변화가 위험하다는 주장이다.

역사적으로 경제와 국가는 사람의 노동과 인지에 기대야 작동했다. 기업에는 노동자와 소비자가 필요했고, 국가에는 납세자와 시민이 필요했다. 이 의존이 제도를 사람의 이익에서 크게 벗어나지 못하게 붙잡았다.

AI가 노동과 인지를 대신할수록 이 의존은 줄어든다. 투표나 소비자 선택 같은 명시적 통제도 약해진다. 사람의 참여에서 저절로 나오던 암묵적 정렬도 약해진다. 연구진은 이런 변화가 경제·문화·정치에서 서로를 강화한다고 봤다. 그러면 영향력 상실이 사실상 되돌릴 수 없게 된다고 경고했다.

이 틀에서 보면 미국과 중국의 차이는 줄어든다. 결정권이 기업에 모이든 국가에 모이든 마찬가지다. 그 결정이 사람의 참여를 덜 필요로 하는 방향으로 간다.

기업 현장이 이 변화의 가장 앞줄이다. 에이전트가 결재와 검토를 더 많이 대신한다. 그럴수록 조직은 그 판단을 하던 사람을 덜 필요로 한다. 효율은 오른다. 동시에 조직의 결정이 구성원의 판단에서 멀어진다. 국가와 경제 전체에서 일어날 일이 기업 안에서 먼저 일어난다. 그래서 에이전트를 도입하는 기업이 규칙을 정하는 구조부터 설계해야 한다.

이 주장에 대한 반박

가장 강한 반박은 개방이 실제로 권력을 흩는다는 것이다. 큐웬 파생 모델만 15만 개가 넘는다. 하루 180~210개씩 불어나 그런 규모가 됐다. 누구나 가중치를 받아 자기 가치에 맞게 다시 학습시킬 수 있다. 중국 정부가 정한 규범도 추가 학습으로 걷어낼 수 있다.

절반은 맞다. 사용 단계의 권력은 분명히 흩어졌다. 그러나 세 가지는 여전히 소수가 쥔다. 가장 큰 모델을 처음 만들 연산 자원이다. 학습 데이터를 고르는 결정과 기본 거부 규칙도 그렇다. 파생 모델도 원본이 배운 것 위에서 출발한다.

두 번째 반박은 미국에는 선거와 법원과 언론이 있다는 것이다. 이 차이는 실재하고 크다. 이 글이 두 체제를 같다고 말하지 않는 이유다. 다만 그 교정 장치들도 결국 사람의 참여 위에 서 있다. 점진적 무력화 가설이 겨누는 곳이 바로 그 토대다.

한국은 두 길의 교차점에 있다

한국은 두 경로의 특징을 함께 가진 드문 나라다. 한편으로 2026년 1월 22일 AI 기본법을 시행했다. 유럽연합에 이어 두 번째 종합 AI 법이다.

다른 한편으로 국가가 공개 모델을 키운다. 과학기술정보통신부는 독자 AI 파운데이션 모델 사업을 벌인다. 참여 기업들은 평가용 모델을 허깅페이스에 공개했다. 2026년 8월 2차 평가 결과가 나왔다. 업스테이지, SK텔레콤, LG AI연구원이 다음 단계에 올랐다. 평가용 모델을 함께 공개한 모티프테크놀로지스는 탈락했다.

국가 사업으로 공개 모델을 키운다는 점은 중국의 경로와 겹친다. 기업의 책무를 법으로 정한다는 점은 유럽의 경로와 겹친다.

한국의 한 중견 제조사가 사내 문서 에이전트를 만든다고 가정해보자. 중국 공개 모델을 받아 추가 학습하면 비용이 싸다. 미국 폐쇄 모델의 API를 쓰면 성능이 안정적이다. 국산 공개 모델은 한국어에 강하다.

기술 선택처럼 보인다. 실제로는 어느 규칙 체계를 들여올지 고르는 일이다. 모델이 무엇을 거부하고 어떤 표현을 피하는지는 모델과 함께 따라온다. 이 선택을 개별 기업에만 맡기면 결과는 하나다. 규칙은 결국 가장 싸고 강한 모델을 만든 곳이 정한다.

무엇이 더 나은가

사람이 규칙을 정하는 과정에 들어가는 실험은 이미 있다. 앤트로픽은 2023년 집단지성프로젝트와 함께 설문을 돌렸다. 미국 성인 약 1,000명에게 AI의 행동 원칙을 물었다. 참여자들은 1,127개의 문장을 제안하고 3만 8,252표를 던졌다. 이렇게 모은 공개 헌법으로 실제 모델을 학습시켰다. 회사 내부 원칙과 겹치는 부분도, 다른 부분도 나왔다. 대부분의 문장에서 참여자들의 합의 수준은 높았다.

한계도 분명하다. 한 번의 실험이었고, 기업이 설계하고 기업이 채택 여부를 정했다. 주최 측도 이를 인정했다. 기술에 익숙하고 여유 있는 계층을 넘어서는 참여가 필요하다.

도구만으로 해결되지도 않는다. AI가 법안 작성과 서명 수집과 설득을 값싸게 만든다. 데이비드 알트만이 2026년 1월 저널 오브 데모크라시에서 분석했다. 국민발안 같은 직접민주주의 장치가 더 자주 쓰이게 된다. 동시에 숙의를 약화시키고 신뢰를 갉아먹는다. 그래서 이 장치들이 불안정의 엔진으로 바뀔 수 있다고 경고했다. 참여를 늘리는 기술이 곧 민주적 통제는 아니다.

알트만이 내놓은 처방도 참여 확대가 아니었다. 처방은 디지털 안전장치였다. AI 생성물 표시, 공익형 AI 플랫폼, 독립적인 알고리즘 감사다. 결국 규칙과 검증의 문제라는 뜻이다.

AI의 민주적 통제는 AI로 투표를 쉽게 만드는 일이 아니다. AI의 규칙이 정해지는 자리에 사람이 들어갈 통로가 있어야 한다. 그 통로를 제도로 만드는 일이다. 모델을 공개하든 닫든 필요한 일이다.

JK's Take

모델을 공개해도 권력은 분산되지 않는다. 개방과 폐쇄 논쟁은 중요하지만 질문이 좁다. 가중치가 공개돼도 규칙은 먼저 정해진다. 가중치가 닫혀도 규칙은 누군가 정한다. 두 경우 모두 그 누군가는 소수다.

한국은 규제법과 국가 공개 모델을 함께 가진 드문 위치에 있다. 필요한 것은 규칙을 정하는 과정에 시민과 기업과 연구자가 들어갈 통로다. 이 위치는 그 통로를 먼저 실험해 볼 수 있는 조건이기도 하다.

에이전트 시대의 민주주의 논쟁은 질문을 바꿔야 한다. 누가 모델을 가졌는가가 지금의 질문이다. 누가 규칙을 정하고 그 과정에 사람이 여전히 필요한가로 옮겨가야 한다.

What to Watch

— 세계인공지능협력기구의 첫 규범 문서. 29개 회원국이 어떤 AI 원칙에 합의하는지를 본다. 중국형 규칙의 확산 범위가 거기서 드러난다.

— 미국 연구소들이 외부 시험기관에 출시 전 접근을 계속 주는지. 앤트로픽의 미토스 5.1 사례가 예외인지 추세인지.

— 한국 독자 AI 파운데이션 모델의 최종 선정과 공개 범위. 가중치만 공개하는지, 학습 데이터 원칙과 거부 규칙까지 공개하는지.

References

[1] (A) Hugging Face, "State of Open Models: Summer 2026 Observations", 2026-08-14. https://huggingface.co/blog/state-of-open-models-summer-2026 — 중국 20B 이상 공개 모델 178개 중 Apache 2.0 59%·MIT 22%, 미국 Apache/MIT 29%·자체 약관 41%, 큐웬 2026년 다운로드 20억 회 이상, 파생 모델 151,448개(하루 180~210개 신규), 월별 최대 공개 모델 규모. 파라미터(parameter)는 모델이 학습으로 조정하는 수치의 개수다.

[2] (B) Xinhua, "29 countries sign agreement on establishing World AI Cooperation Organization", 2026-07-16. https://english.news.cn/20260716/b0449aa2133542868e310fdc45ef2969/c.html

[3] (A) State Council Information Office of China, "Xi calls for equitable global AI governance, unveils new cooperation body", 2026-07-18. http://english.scio.gov.cn/topnews/2026-07/18/content_118605937.html

[4] (A) The White House, "Winning the Race: America's AI Action Plan", 2025-07. https://www.whitehouse.gov/wp-content/uploads/2025/07/Americas-AI-Action-Plan.pdf — 오픈소스·오픈웨이트 모델 권장. 오픈웨이트(open-weight)는 학습된 가중치를 공개해 누구나 내려받아 쓸 수 있게 한 모델이다.

[5] (B) The New Stack, "Meta abandons open-source Llama for proprietary Muse Spark", 2026. https://thenewstack.io/meta-abandons-llama-spark/ — 2026-04-08 출시, 메타 초지능 연구조직의 첫 제품.

[6] (B) ITPro, "Anthropic reportedly withholds access to Mythos 5.1 from UK safety testing body", 2026-09-09. https://www.itpro.com/technology/artificial-intelligence/anthropic-reportedly-withholds-access-to-mythos-5-1-from-uk-safety-testing-body — 파이낸셜타임스 보도 인용. 이유 미확인.

[7] (A) Interim Measures for the Management of Generative Artificial Intelligence Services (2023), Article 4. China Law Translate. https://www.chinalawtranslate.com/en/generative-ai-interim/ — 사회주의 핵심가치 견지, 국가 전복 선동 등 금지.

[8] (A) Measures for Labeling AI-Generated Synthetic Content (2025-09-01 시행). China Law Translate. https://www.chinalawtranslate.com/en/ai-labeling/ — 명시적 표시와 암묵적 표시(메타데이터·워터마크) 의무. 인터넷정보판공실·공업정보화부·공안부·국가방송총국 공동 제정.

[9] (B) CNBC, "Tech AI spending approaches $700 billion in 2026, cash taking big hit", 2026-02-06. https://www.cnbc.com/2026/02/06/google-microsoft-meta-amazon-ai-cash.html — 알파벳·마이크로소프트·메타·아마존 합산.

[10] (A) Kulveit, J., Douglas, R., Ammann, N., Turan, D., Krueger, D. & Duvenaud, D., "Position: Humanity Faces Existential Risk from Gradual Disempowerment", ICML 2025, PMLR 267. https://proceedings.mlr.press/v267/kulveit25a.html — 점진적 무력화(gradual disempowerment)는 급격한 장악이 아니라 누적된 변화로 사회 시스템에 대한 사람의 영향력이 사라지는 과정이다.

[11] (B) 법률신문, "AI 기본법 시행과 그 시사점"(법무법인 세종). https://www.lawtimes.co.kr/news/articleView.html?idxno=216500 — 2026-01-22 시행, 유럽연합에 이은 두 번째 종합 AI 규제체계.

[12] (B) ZDNet Korea, "개방형 국산 AI 출격…국가대표 4사4색 전략은", 2026-08-04. https://zdnet.co.kr/view/?no=20260804100005 — 2차 평가용 모델 허깅페이스 공개.

[13] (B) 와우테일, "독자 AI 파운데이션 모델 프로젝트, 업스테이지·SK텔레콤·LG AI연구원 3사 다음 단계 진출", 2026-08-18. https://wowtale.net/2026/08/18/263113/

[14] (A) Anthropic, "Collective Constitutional AI: Aligning a Language Model with Public Input", 2023. https://www.anthropic.com/research/collective-constitutional-ai-aligning-a-language-model-with-public-input — 미국 성인 약 1,000명, 1,127개 문장, 3만 8,252표. 대부분 문장에서 높은 합의, 참여 계층 확대 필요성 인정.

[15] (A) Altman, D., "The AI Democracy Dilemma", Journal of Democracy 37(1), 2026-01. https://www.journalofdemocracy.org/articles/the-ai-democracy-dilemma/ — AI가 직접민주주의 장치를 값싸게 만들면서 숙의와 신뢰를 약화시킬 위험. 처방으로 AI 워터마크, 공익형 AI 플랫폼, 독립 알고리즘 감사 제시.

[16] (B) 뉴스핌, "독자 AI모델 업스테이지·SKT·LG 3곳 다음 단계 진출…모티프는 고배", 2026-08-18. https://www.newspim.com/news/view/20260818000724