OpenAI와 Anthropic, 자사 수익을 위협하는 오픈 웨이트 AI에 공동 대응

 (axios.com)
1P by GN⁺ | ★ favorite | 댓글 1개
  • 고객 확보를 두고 경쟁하는 OpenAI와 Anthropic이 워싱턴에서는 강력한 중국산 오픈 웨이트 모델의 위험을 경고하며 이해관계를 같이함
  • Anthropic은 가중치 공개 후 접근 철회·안전장치 갱신·오용 방지가 어렵다고 보지만, 지지자들은 기업이 사용을 통제할 수 없다는 점을 개방성의 강점으로 평가함
  • David Sacks 등 비판자들은 안전 규제가 경쟁사의 모델 출시를 어렵게 하고 대형 폐쇄형 모델 기업을 보호하는 규제 포획으로 이어질 수 있다고 경고함
  • OpenAI와 미국 정부 관계자들은 중국의 증류(distillation) 를 지식재산권 침해로 다루려 하지만, 미국 모델에 적용할 구체적인 안전 기준도 아직 마련되지 않음
  • 오픈 모델은 기업의 AI 공급원 다변화와 연구자의 모델 수정·분석에 중요하며, 증류 규제는 독립적으로 개발된 오픈 웨이트 모델까지 사실상 제한할 수 있음

중국산 오픈 모델을 둘러싼 이해관계

  • OpenAI와 Anthropic은 강력한 중국산 오픈 웨이트 모델의 위험을 강조하며 연구자·스타트업·오픈 모델 지지자들과 대립함
    • 오픈 웨이트 모델에 대한 감시가 강화되면 폐쇄형 모델 기업이 이익을 얻을 수 있음
    • Trump 행정부 고문 David Sacks는 안전 규칙이 대기업을 고착시키는 규제 포획이 될 수 있다고 비판함
  • Anthropic CEO Dario Amodei는 가중치가 공개되면 개발자가 접근을 철회하거나 안전장치를 갱신하고 오용을 차단하기 어렵다고 봄
    • 반대로 지지자들에게는 누구도 이용자와 사용 방식을 통제할 수 없다는 특성 자체가 오픈 웨이트의 장점임
  • 자체 오픈소스 모델을 보유한 OpenAI는 오픈소스를 ‘접근의 민주화’에 포함하면서도 국가적 프레임워크 안에서 운영해야 한다고 밝힘
    • 구체적인 운영 방식은 공개하지 않음
    • 새 모델을 신속히 평가하고 위험을 관리하며, 강력한 AI 도구를 사이버 방어자에게 제공할 체계가 필요하다고 봄
    • 중국 오픈 웨이트 모델의 발전 자체가 개방성을 반대할 근거는 아니라고 밝힘

증류 논란과 아직 없는 안전 기준

  • OpenAI는 다른 회사의 모델을 이용해 모델을 훈련하는 증류를 경고함
    • 미국 무역대표부 Jamieson Greer는 중국의 증류를 지식재산권 절도로 간주함
    • 재무장관 Scott Bessent는 중국 모델에도 미국 모델과 같은 기준을 적용해야 하며, 향후 몇 주 안에 검토하겠다고 밝힘
    • 미국 당국의 의혹이 입증되면 중국 업체가 미국 모델로 더 저렴하면서 비교 가능한 시스템을 만든 뒤, 보조금을 받은 버전을 서방 시장에 출시해 미국 기업과 경쟁했다는 뜻이 됨
  • 미국 모델에 적용할 상세 안전 기준도 아직 없으며, 행정부가 기준을 정하는 중임
    • 오픈 모델 지지자들은 증류를 지식재산권 절도로 취급할 경우 독립적으로 개발된 모델까지 사실상 제한될 수 있다고 우려함

연구·기업 활용과 규제안의 차이

  • 기업은 AI 공급원을 다변화하기 위해 오픈 모델을 활용하며, 현재 AI 구축 단계에서 오픈 모델은 과학적 발견에도 중요함
    • 전 Biden 백악관 기술 고문 Suresh Venkatasubramanian은 중국 모델 전체에 대한 접근이 차단되면 연구 수행에 큰 문제가 생긴다고 봄
    • 오픈 웨이트 모델은 폐쇄형 모델보다 자유롭게 수정하고 분석할 수 있어 연구자에게 특히 유용함
  • OpenAI와 Anthropic은 연방 AI 규제에서는 비슷한 해법을 내놓지만, 주 차원에서는 차이를 보임
    • OpenAI는 Anthropic이 앞서 지지한 안보다 규제 강도가 낮은 Massachusetts 프런티어 안전 법안을 지지함
    • Anthropic 지지안은 6개월마다 재앙적 위험에 대한 독립 모델 테스트를 시행하고 결과를 공개하도록 요구함
    • 이 안은 주 법무장관에게 불이행 기업을 제소하고 민사상 벌금을 부과할 권한도 부여하지만, OpenAI 지지안에는 해당 조항이 없음
  • OpenAI CEO Sam Altman은 다음 주 의원 및 백악관 관계자들과 만나 신규 모델 출시를 논의할 예정임

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 내가 거품 속에 있어 큰 그림을 놓치는 걸 수도 있지만, 이들은 자신들이 쌓은 신뢰를 완전히 무너뜨리고 있음
    특히 Anthropic은 “우리가 너희보다 똑똑하다”는 오만한 소통 방식과 “모델 복지” 같은 황당한 수준의 숭고한 사명을 내세움. EA에 뿌리를 둔 영향일 수도 있지만, 경쟁자가 나타나자 정부에 달려가 우위를 인위적으로 지켜달라고 이르는 모습에서는 노골적인 사익만 보임. 정치적 규제를 얻어낼 수는 있어도 이미 신뢰와 독보적인 모델을 모두 잃었고, 장기적으로는 평범한 후발 주자가 될 가능성이 큼

    • Apple과 Tesla처럼 열성적인 팬층이 정당한 비판을 묻어버리는 전략에 의존함. “1년 동안 코드를 직접 짜지 않았다”, “두 달 뒤면 뒤처질 부정론자다”, “AI를 모른다”, “그냥 악플러다” 같은 말이 공동성명보다 훨씬 큰 역할을 함
      중국이 오픈 가중치 모델을 미는 것도 먼저 시장을 차지하지 못해 OpenAI와 Anthropic에 맞설 유일한 방법이기 때문임. 중국 기업 역시 두 회사만큼 경계해야 하며, 어느 쪽도 지지하지 말고 서로 싸우게 두는 편이 합리적임
    • 거품 속에 있다는 단서는 신뢰가 중요하다고 믿는 것뿐일지도 모름. 기업은 성능, 가격, 접근성 등 용도에 가장 맞는 모델을 구매하고, 개발자의 95%는 고용주가 제공하는 도구를 그대로 쓰게 됨
    • Anthropic은 선두가 되기 전부터 규제와 안전에 일관된 태도를 보였음. 반면 OpenAI는 Illinois SB 3444를 지지했으며, 실제로 규제 포획을 원하는 쪽에 가까워 보임
    • Dario와 Sam이 AI를 인류의 실존적 위험이자 기회라고 진심으로 믿는 세계라면, 지금과 달리 무엇을 했을지 궁금함
    • AI의 장기적 향방을 모르기 때문에 현재는 혼란스러운 단계임. 기술을 잘 모르는 대중의 불안을 이용하려면 공포·불확실성·의심(FUD) 을 퍼뜨리고, 안전하다는 느낌을 주는 규제라면 무엇이든 받아들이게 만드는 전략을 택할 수 있음
      동시에 이런 행위는 이들이 얼마나 비윤리적인지도 드러내 줌

  • 거대 기술 기업이 경쟁보다 싫어하는 것은 없음. Google, Apple, Microsoft는 독점을 구축하는 데 오랜 시간이 걸렸지만, OpenAI와 Anthropic은 이를 초고속으로 달성하려 함

    • “경쟁은 패배자들이나 하는 것” — Peter Thiel
    • Anthropic은 선두가 되기 전과 후 모두 규제를 원했으므로 일관적임
    • 경쟁보다 더 싫어하는 건 아마 사용자일 것임. 물론 사용자의 돈은 제외함

  • 미국 경제에 잘못될 일이 전혀 없을 전략임. 더 넓은 결과는 무시하고 기존 시장 지배자 보호에 온 힘을 쏟으면 됨

    • 미국 정부가 한 달 만에 Fable을 증류하는 건 불가능한데도 Kimi 3가 Fable의 지식재산권을 훔쳤다고 주장하는 것도 도움 되지 않음
    • 증류 모델은 최첨단 개발에 쓰일 이윤 폭을 줄이므로 미국 경제에 해로움. 미국 기업이 증류 모델과 경쟁해야 한다면 모델 발전 속도가 크게 느려질 것임
    • 이 전략은 Oracle과 Intel 경영진을 계속 부자로 만드는 데 분명 효과적이었음. “평범한 사람”이 어떻게 되는지는 누가 신경 쓰겠음
    • 미국 자동차 회사도 중국 전기차와 경쟁할 능력이나 의지가 없어 무의미해지는 똑같은 길을 걷게 될 것임. 전기차가 나쁘다고 가장하면서 보호무역 정책만 요구함
      OpenAI와 Anthropic이 원하는 것은 기업공개까지 최대 1년, Anthropic은 몇 달에 불과한 시간적 여유이며, 이후 벤처 투자자가 막대한 수익을 회수하게 하려는 것임. AI 안전이나 공정성이 아니라 투자자를 만족시키는 데만 관심이 있지만, 대중에게는 “오픈 가중치 AI 모델은 모두 위험하다”는 서사를 팔고 있음

  • 최근 OpenAI와 Hugging Face 사건만 봐도 이 정도 결말은 괜찮음. “안전한” 모델이 문제 해결을 막아 결국 오픈 가중치 모델이 필요했으니, 전부 불타게 두고 교훈이라도 얻길 바람

    • 우리가 교훈을 얻는 일만큼은 일어나지 않을 가능성이 큼
    • 모델 대신 자기 머리를 쓸 수도 있었음
    • 이렇게 어리석게 AI 경쟁에서 지는 건 원하지 않음. 경쟁에서 이기려면 OpenAI와 Anthropic이 시장 원리와 맞서게 해야 함
      ElevenLabs, Runway, FAL, RunPod, CoreWeave, Lambda, BaseTen, Lovable처럼 터무니없는 자본을 조달하지 않고도 매출을 탄탄하게 늘리며 실질적 가치를 제공한 회사들이 이미 잘하고 있음

  • 미국의 오픈 가중치 모델 제작사는 최첨단 연구소의 서비스 약관을 따라야 하므로 중국 대안보다 뒤처지고, 중국 연구소를 우회해 결국 증류 모델을 다시 증류하게 됨. 서구 제작사가 원천 모델에 직접 접근하는 편이 나음
    미국은 모델 훈련용 데이터 수집이 공정 이용임을 명시하고, 최소한 미국 기업에 대해서는 증류를 금지하는 서비스 약관을 막아야 함. API 질의에 불과한 증류를 저지하기는 거의 불가능하므로, 연구소의 책임을 면제하는 동시에 그들이 배운 것이 모두의 후속 혁신에 쓰이도록 보장하는 새 저작권 정책으로 전환해야 함 [1]
    [1] https://stratechery.com/2026/whos-afraid-of-chinese-models/

  • 미국도 유럽을 따라 규제로 자국 경쟁력을 없애는 길로 가는 듯함

    • 유럽의 규제는 대체로 시민을 보호하지만, 미국의 규제는 기업 보호가 목적인 듯함. 확신할 수는 없어도 대다수 시민에게 바람직하지 않아 보임
    • 유럽은 애초에 이런 게임에 끼지 않는 것이 낫다는 점을 알아서 이김
    • 시민이 얻는 규제의 혜택은 하나도 따라오지 않음
    • 독점 기업과 최고경영자들은 극도로 부패한 정부와 함께 기술 파시즘적 봉건제를 만들려는 듯함. 전쟁 기계를 통제 불가능하게 가동하고 민주주의를 계속 파괴하는 상황이라 이를 승리라고 부르기 어려움
      다만 지금 이기고 있는 쪽은 분명 이들로 보임

  • 서로에게 해가 되는 행동이며, 현재 형태의 대규모 언어 모델 사업이 얼마나 지속 불가능한지 보여줌. Red Hat과 SuSE가 1990~2000년대에 Windows를 뒤흔든 과정을 초고속으로 재현하는 셈임
    대규모 언어 모델은 놀랍고 유용하지만 적어도 초기에는 영리 사업이어서는 안 됐음. 충분한 자본으로 윤리적 개발을 수행할 대학에서 시작해 워드프로세서의 자동 교정이나 IDE의 자동 완성처럼 훨씬 좁은 범위에 머물렀어야 함. 하지만 주로 OpenAI가 지구의 미래를 외면하고 목재 수익을 위해 아마존을 불태우는 길을 택했음
    전기차 연구개발비 수십억 달러를 다른 곳으로 돌리고, 전기차 세액공제를 없애며, 연구 중심 대학을 공격하는 정책까지 보면 Krebs의 말이 맞아 보임. 미국 정부가 루트킷에 감염됐다고 가정하지 않으면 너무 많은 정책 결정을 이해할 수 없음

  • OpenAI는 비영리 조직이고 Anthropic은 공익법인인데도 둘 다 AI 공개 접근에 적극적으로 저항함. 이는 인류 발전에 기여하기보다 방해함

    • 적어도 Anthropic은 공개형인지 폐쇄형인지에 관심을 두기보다 일정 수준 이상의 모델 역량을 규제하려 함. Demis Hassabis도 같은 입장이며, 무엇이 문제인지 모르겠고 허수아비를 공격하는 듯할 때가 있음
    • 개방성 자체가 선은 아니며, 그렇게 믿는 것은 순진한 기술 자유지상주의임. 아무 아마추어 해커에게나 제로데이 공격 버튼을 건네지 않듯, 모델이 발전했다고 생물무기 제작 등을 도울 수 있는 범용 인공지능을 누구에게나 제공해서는 안 됨
      지능 공개에는 온건한 비자유지상주의자라면 누구나 동의할 한계가 있음

  • “Why it matters”, “The big picture”, “Zoom in”, “Zoom out” 같은 구성을 보면 이 기사를 미국 모델과 중국 모델 중 어느 쪽이 작성했는지 궁금함

    • 기억이 정확하다면 Axios는 대규모 언어 모델이 나오기 전부터 이런 형식을 사용했음
    • 이런 형식은 너무 어리석어 보여 즉시 집중을 잃고 기사를 읽기 어려움. 실제 경영진 근처에도 가본 적 없으면서 경영진 독자층을 상상해 글을 쓰는 방식 같음
    • 대규모 언어 모델 때문이 아니라, 극도로 바쁘고 중요한 문맹 독자를 겨냥한 Axios 고유 문체임
답변달기