Anthropic, 중국 AI 기업들의 Claude 불법 증류 공격 탐지 및 대응 공개

(anthropic.com)

Anthropic이 DeepSeek, MiniMax, Moonshot AI 세 중국 AI 기업이 Claude의 능력을 불법으로 추출했다고 공식 발표했습니다.

공격 규모
세 기업이 총 24,000개의 허위 계정을 생성해 Claude와 1,600만 건 이상의 대화를 생성했으며, 이는 Anthropic의 서비스 약관과 지역 접근 제한을 명백히 위반한 것입니다.

기업별 특징은 다음과 같습니다. DeepSeek은 15만 건 이상의 대화를 통해 기초 논리 및 정책 민감 쿼리 관련 역량 확보에 집중했습니다. MiniMax는 전체의 80% 이상인 1,300만 건을 생성하며 에이전틱 코딩, 툴 사용, 오케스트레이션에 초점을 맞췄고, Anthropic이 이를 실시간으로 탐지해 MiniMax가 모델을 출시하기 전에 파악했습니다. 특히 Anthropic이 신모델을 출시하자 MiniMax는 24시간 내에 트래픽의 절반을 신모델로 전환하는 민첩함을 보였습니다.

공격 방식
중국 내 Claude 접근이 국가 안보상 차단되어 있어, 수만 개의 허위 계정을 운영하는 프록시 서비스(“hydra cluster” 아키텍처)를 통해 우회했습니다. 단일 프록시 네트워크가 20,000개 이상의 허위 계정을 동시 운영한 사례도 있었으며, 탐지를 어렵게 하기 위해 일반 사용자 트래픽과 혼합해 전송했습니다.

Anthropic의 대응
행동 기반 탐지(behavioral fingerprinting), 체인-오브-쏘트 추출 패턴 탐지 등의 분류기를 구축했으며, 기술 지표를 다른 AI 기업·클라우드 제공사·관계 당국과 공유하고 있습니다. 또한 교육 계정, 스타트업 계정 등 허위 계정 개설에 자주 악용되는 경로의 인증을 강화했습니다.

국가 안보 관점
Anthropic은 이를 단순 약관 위반이 아닌 국가 안보 위협으로 규정했습니다. 불법 증류된 모델은 생화학 무기 개발 방지, 사이버 공격 차단 등의 안전장치가 제거될 가능성이 높으며, 이는 미국의 AI 수출 통제 정책을 무력화한다고 주장했습니다. “어떤 기업도 혼자 해결할 수 없다”며 업계, 클라우드 제공사, 정책 입안자들의 공동 대응을 촉구했습니다.
앞서 OpenAI도 DeepSeek의 유사한 행위를 의회에 제보한 바 있어, 미국 AI 산업 전반의 공동 대응 논의가 본격화될 것으로 보입니다.