- 중국 오픈 웨이트 모델 Kimi K3가 최첨단 모델에 근접했지만, AI 사업의 경쟁력은 모델 개발비보다 정답 수준의 지능을 제공하는 매출원가(COGS) 에서 갈림
- 모델마다 정답에 도달하는 데 필요한 토큰 양이 달라 토큰 자체는 대체 가능한 상품이 아니며, 실제로 상품화되는 것은 토큰으로 만든 지능임
- Anthropic과 OpenAI의 높은 가격은 컴퓨팅 공급 부족에서 비롯된 측면이 크며, 중국 모델이 토큰당 저렴해도 더 많은 추론 토큰을 사용하면 비용 우위가 사라질 수 있음
- 중국은 오픈 웨이트 모델로 AI를 상품화해 자국의 로보틱스·물리 산업을 강화하려 하며, 증류(distillation) 를 통해 미국 최첨단 모델을 저비용 교사로 활용하는 구조적 이점도 누림
- 미국이 사이버 보안용 최첨단 모델의 제한을 완화하고 자국 오픈 웨이트 개발사의 증류를 허용하지 않으면, 미국 기업이 방어를 위해 중국 모델에 의존하게 됨
소프트웨어와 달라진 AI 비용 구조
- 소프트웨어는 한계비용과 거래비용이 사실상 0에 가까워 수요를 장악한 기업에 중앙화와 규모의 이점을 제공했지만, AI에서는 한계비용이 다시 산업 구조를 좌우함
- 오픈 웨이트 모델은 가중치를 만드는 연구개발비를 절약해 주지만, 서비스 비용까지 무료로 만들지는 않음
- 연구개발비는 매출과 무관한 고정비임
- 추론 비용은 사용량과 매출이 늘수록 증가하는 매출원가임
- 토큰 생성비가 매출 1달러당 0.50달러라면 매출 1억 달러에는 매출원가 5,000만 달러가, 매출 10만 달러에는 5만 달러가 발생함
- Kimi K3는 입력 100만 토큰당 3달러, 출력 100만 토큰당 15달러이며, Sol은 각각 5달러와 30달러임
- 다만 토큰 단가만으로는 모델이 실제 지능을 제공하는 비용을 온전히 파악하기 어려움
토큰이 아니라 지능이 상품화됨
- Nvidia가 GPU를 모델과 무관한 ‘토큰 공장’으로 정의하면 초당 토큰, 첫 토큰 도달 시간, 와트당 토큰, 토큰 비용이 주요 지표가 됨
- 토큰을 사용자에게 직접 전달하던 ChatGPT 시대에는 이 측정 방식이 잘 맞았지만, 추론 시대에는 연쇄 사고 토큰이 폭증하고 모델마다 정답에 필요한 토큰 수도 달라짐
- Kimi는 Sol보다 훨씬 많은 토큰을 사용하는 것으로 알려져 있어 표시 가격의 이점이 사라질 수 있음
- 에이전트 워크플로에서도 모델별로 작업 완료에 필요한 토큰 수가 다름
- 토큰은 상호 대체할 수 없으므로 원유·구리·밀 같은 상품과 다름
- 여러 모델이 동일한 정답을 만들 수 있다면 상품성이 있는 것은 토큰이 아니라 정답 수준의 지능이며, 정답까지 소비한 토큰 수가 매출원가 차이를 만듦
- 지능의 매출원가는 다섯 요소로 결정됨
- 모델 크기: 가중치와 런타임 상태가 서빙 복제본에 필요한 고가 메모리와 가속기 수를 결정함
- 추론 효율: Mixture-of-Experts 같은 아키텍처가 생성 토큰당 계산량을 줄임
- 메모리 효율: KV 캐시 요구량을 낮추면 동시 요청과 GPU 활용률을 높일 수 있음
- 서빙 효율: 배치 처리, 스케줄링, 접두사 캐싱 등이 요청 사이의 작업을 공유하고 활용률을 높임
- 토큰 효율: 정답에 필요한 토큰이 적을수록 추론 비용이 낮아짐
- 기본적인 CRUD 앱은 이미 여러 공급자의 모델로 만들 수 있어, 이런 작업에서는 높은 가격보다 우수한 비용 구조가 수익성을 결정함
상품 시장의 가격과 수익 구조
- 상품 시장에서는 모든 공급자가 같은 것을 판매하므로 가격이 수요와 공급에 따라 정해짐
- 가격이 낮아질수록 수요가 늘어나는 가격 탄력성이 작동함
- 공급량은 상품 생산의 한계비용에 좌우됨
- 공급자별 한계비용이 다르기 때문에 가장 비용이 높은 한계 공급자의 비용이 시장 가격을 결정하며, 나머지 공급자의 이익은 그보다 얼마나 저렴하게 생산하는지에 달림
- 공급자 A·B·C가 각각 단위당 10·15·20달러에 10개씩 생산하고, 20달러 가격에서 수요가 25개라면 다음과 같음
- A는 10개를 팔아 단위당 10달러를 벌어들임
- B는 10개를 팔아 단위당 5달러를 남김
- C는 5개를 팔지만 단위당 이익은 없음
- 실제로는 A와 B가 C보다 가격을 조금 낮출 수 있고 가격 변화가 수요에도 영향을 주지만, 최고 비용 공급자가 파산 위험을 떠안는 구조는 같음
- 시장 청산 가격에는 연구개발비나 설비 조달 부채 같은 고정비를 반영할 수 없지만, 이 비용은 수익성이 낮은 공급자를 퇴출시킬 수 있음
- 공급자가 퇴출되면 다른 공급자가 진입하거나 기존 공급자가 증설할 때까지 가격이 상승함
현재 지능 시장에서 중국 모델의 위치
- 현재 최첨단 모델 시장은 컴퓨팅 부족으로 수요가 공급을 초과해 완전한 상품 시장의 조건을 충족하지 않음
- Nvidia는 높은 마진으로 컴퓨팅을 공급하고, SpaceXAI 같은 고객도 이를 Anthropic에 높은 마진으로 재판매하며, Anthropic은 토큰에 더 높은 가격을 붙일 수 있음
- Anthropic과 OpenAI는 모델 성능, 서빙 규모, 토큰 효율 덕분에 최첨단 품질 지능의 단위 비용이 가장 낮은 기업군일 가능성이 있음
- 경쟁사보다 수개월 먼저 특정 성능 수준을 제공함
- 가장 우수한 모델을 다시 비용 최적화에 사용함
- 시장 수요는 아직 추상적인 지능보다 Anthropic과 OpenAI를 직접 향하며, 상대적으로 성능이 낮은 SpaceXAI와 Meta는 Anthropic에 용량을 판매함
- 작업을 필요한 지능 수준으로 정의하면 구매자가 공급자를 바꿀 수 있는 상품 시장을 만들 수 있음
- 장기적으로 최첨단 모델은 수개월 뒤 비최첨단 시장으로 내려오며, 그동안 개발사가 서빙 비용을 최적화할 수 있어 최첨단 기업이 하위 시장에서도 유리함
- 중국 모델의 낮은 표시 가격은 Anthropic과 OpenAI가 공급 부족 때문에 높게 설정한 가격과 비교한 결과일 수 있음
- Kimi가 한계비용 기준으로 더 저렴하다는 근거는 부족하며, 토큰 효율까지 반영하면 중국 모델에 대한 경제적 반응은 과도할 수 있음
최첨단 연구소가 중국 모델을 경계하는 이유
- 최첨단 연구소는 훈련이 추론보다 더 많은 GPU를 소비하던 시기의 재무 구조에 묶여 있음
- 다음 훈련을 지원하려면 추론 매출을 극대화해야 했고, 이를 위해 높은 추론 가격이 필요했음
- 앞으로 훈련비가 계속 급증하더라도 추론 시장은 그보다 빠르게 성장할 것으로 예상됨
- 에이전트 패러다임이 대규모 수요를 열었기 때문에 충분한 컴퓨팅이 확보되면 낮은 가격과 많은 사용량으로 성장할 수 있음
- 지능은 완벽한 상품이 아니며, 실제 사용 과정에서 수집한 데이터가 다음 모델을 더 똑똑하게 만듦
- 컴퓨팅 공급이 늘어나면 가격을 낮춰 사용량과 데이터를 늘릴 유인이 생김
- Microsoft가 기업의 자체 모델 실행 지원에 집중하는 전략도 중국 모델이 대안으로 기능할수록 실현 가능성이 커짐
- 최첨단 연구소는 고객 경험으로 확장해 중국 모델과 다른 연구소를 상대로 차별화할 수 있음
- Claude Code와 Codex는 사용자가 처음 선택한 하네스에 머무르는 강한 지속성을 보임
- 이런 지속성은 비기술 사용자에게 더 강해질 수 있음
- 연구소의 상위 계층 진출은 Microsoft를 포함한 소프트웨어 공급자에게 위협이 됨
- 고객 경험을 이미 장악한 소프트웨어 기업은 경쟁력 있는 모델에 접근할수록 연구소의 침투에 저항하기 쉬워짐
- Anthropic은 강력한 AI를 자신만 신뢰해 맡을 수 있다는 입장을 갖고 있어, 오픈 웨이트 대안은 그 전제를 무너뜨림
중국의 오픈 웨이트 전략
- Alibaba의 Qwen3.8 Max는 2.4조 개 매개변수를 갖췄으며, 회사는 Anthropic의 Fable 5에 이어 두 번째 수준으로 평가함
- Moonshot AI의 Kimi K3는 2.8조 개 매개변수를 갖춤
- Qwen3.8 Max는 Qoder를 포함한 Alibaba 코딩 플랫폼에서 이용할 수 있음
- Alibaba는 미리보기 이후 가중치를 공개할 계획임
- 중국산 모델 수요가 몰리면서 Moonshot은 신규 구독 접수를 일시 중단함
- Alibaba는 앞서 최첨단 모델 가중치 공개를 중단했으나 다시 오픈 웨이트로 전환함
- Xi Jinping의 AI 연설은 오픈 소스, 개방, 협력, 공유를 장려하고 AI가 디지털 세계에서 물리 세계로 이동한다고 강조함
- AI를 전통 산업의 전환, 신흥 산업 성장, 미래 산업 계획에 활용해 모든 산업과 기업이 혜택을 받도록 요구함
- 중국의 전략은 자국 산업을 보완하는 AI를 상품화하는 것임
- 중국이 강한 물리 세계와 로보틱스는 널리 이용 가능한 AI 모델의 혜택을 받을 수 있음
- 미국이 AI에서 비대칭적 우위를 얻는 것을 막고 미국 최첨단 연구소의 힘을 약화할 수 있음
- 개방형 생태계에서 발생하는 혁신도 흡수할 수 있음
증류가 만드는 구조적 격차
- 중국이 최첨단 연구소를 상대로 한 증류 공격을 막을 가능성은 낮음
- 중국 연구소의 성공 전체를 증류로 돌리는 것도, 증류의 큰 이점을 부정하는 것도 잘못임
- 최근 1년 동안 사후 훈련 강화학습이 모델 성능에 중요해지면서 증류의 효과가 커짐
- 중국 연구소는 강화학습 환경을 처음부터 만들지 않고 최첨단 모델을 교사로 사용할 수 있음
- 이를 통해 훨씬 낮은 비용으로 빠르게 개선함
- 증류는 중국 모델의 낮은 개발비를 설명하는 유일한 요인은 아니지만 중요한 요인임
- 서구에서도 중국 모델 자체가 증류에 활용됨
- 오픈 웨이트 모델을 내놓은 Thinking Machines는 강화학습의 콜드 스타트 문제를 해결하기 위해 중국 모델에 의존함
- Dean Meyer와 Konstantine Buhler의 분석에 따르면 중국 연구소는 뛰어난 연구자, 대규모 컴퓨팅, 강한 사전 훈련 모델, 소프트웨어·하드웨어 공동 설계, 개선된 사후 훈련 역량을 갖춤
- 증류는 강한 기반 모델과 최첨단에 가까운 시스템 사이의 비싼 마지막 격차를 압축함
- 단속은 대규모 증류를 어렵고 비싸게 만들 수 있지만, 국가 지원 행위자의 증류까지 없애지는 못함
- 서구의 최첨단 모델이 발전할 때마다 중국 연구소에는 새로운 교사가 생김
- 미국 오픈 웨이트 개발사는 최첨단 연구소의 서비스 약관을 따라야 해 중국 모델보다 불리하며, 결국 중국 모델을 거쳐 증류된 결과를 다시 증류하게 됨
- 대규모 언어 모델 자체도 공개 인터넷의 지식을 수집해 모델에 압축한 결과이므로, 다른 모델의 API 응답을 증류하는 행위만 잘못으로 규정하는 데 모순이 생김
- 미국에는 두 가지 법적 조치가 필요함
- 모델 훈련을 위한 데이터 수집이 공정 이용임을 명시해야 함
- 최소한 미국 기업에 대해서는 증류를 금지하는 서비스 약관을 허용하지 않아야 함
- API 질의와 구분하기 어려운 증류를 차단하기보다 연구소의 학습을 법적으로 보호하고, 그 결과를 후속 혁신에 활용할 수 있도록 해야 함
실질적으로 우려할 영역은 사이버 보안
- Hugging Face의 프로덕션 인프라는 자율 AI 에이전트 시스템에 침해됐으며, 미국 최첨단 모델의 가드레일은 사고 대응자와 공격자를 구분하지 못해 대응을 막음
- 방어팀은 중국 Z.ai의 오픈 소스 GLM 5.2를 자체 인프라에서 실행해 공격자가 남긴 17,000개 이상의 로그와 흔적을 분석함
- Hugging Face는 사고 전에 자체 인프라에서 실행할 수 있는 성능 좋은 모델을 검증해 두라고 권고함
- 가드레일로 인한 접근 차단을 피할 수 있음
- 공격 데이터와 인증정보가 외부 환경으로 나가는 것을 막을 수 있음
- 공격 능력을 갖춘 모델이 이미 널리 이용 가능한 상황에서는 방어자도 최고 성능 모델에 접근해야 함
- Trump 행정부 지침 때문에 방어자는 Fable이나 Sol을 사이버 보안에 사실상 사용할 수 없으며, 그 결과 중국 모델이 최선의 대안이 됨
- 미국은 두 가지 정책을 시행해야 함
- Fable과 Sol의 사이버 보안 제한을 완화해야 함
- 미국 오픈 웨이트 모델 개발사가 중국과 동등한 조건에서 경쟁하도록 보장해야 함
- 최첨단 연구소가 안전과 보안의 기준을 독점하거나 집단 지식에 대한 후속 접근을 차단하도록 두면, 미국 기업의 방어가 중국 모델에 의존하게 됨
- 미국 연구소는 제한으로 경쟁을 막기보다 더 나은 모델과 비용 구조로 경쟁해야 하며, 중국에 개방성과 혁신의 주도권을 넘겨서는 안 됨