Anthropic Mythos 논란의 중심에 선 한국의 통신 대기업 SK Telecom

 (wired.com)
6P by GN⁺ | ★ favorite | 댓글 1개
  • 백악관이 Anthropic의 AI 모델 차단을 명령하기 며칠 전, SK 텔레콤의 Claude Mythos 접근권 회수를 요구했고, 그 배경에는 SK Telecom의 중국 연계 의혹이 자리함
  • US 당국은 SK Telecom의 중국과의 연결 고리를 문제 삼았으며, Amazon이 Fable 5의 취약점을 백악관에 보고하면서 우려가 가중됨
  • 백악관은 Anthropic이 최첨단 AI 기술을 안전하게 관리할 것으로 신뢰할 수 없다고 판단해, 모든 외국 국적자에 대한 Mythos 및 Fable 5 접근 회수를 명령
  • Anthropic은 국적 기반 접근 차단이 어렵다고 보고 모델 자체를 전면 비활성화하는 방식을 선택, 백악관과는 여전히 이견 상태
  • SK Telecom은 의혹을 부인했고, 미국 정부의 제한 요구 서한에도 한국 기업이나 중국에 대한 직접 언급은 없음

수출 통제와 SK Telecom 접근권 논란

  • Trump 행정부의 Anthropic 최강 AI 기술에 대한 수출 통제 조치는, Anthropic이 한국 통신 대기업 SK Telecom에 Claude Mythos 접근권을 부여한 것을 둘러싼 갈등에서 비롯됨
    • US 당국자들은 SK Telecom이 중국과 연계되어 있다고 주장하며 우려 표명
  • Amazon이 Fable 5에서 식별한 취약점을 백악관에 보고하면서 우려가 가중됨
    • Fable 5는 Mythos의 고도 안전장치 버전으로, 6월 9일 일반에 공개됨
    • Amazon 연구진은 Fable 5의 일부 가드레일을 우회해 Mythos의 강력한 사이버 역량에 접근 가능하다고 주장
    • Anthropic과 외부 사이버보안 전문가들은 이러한 위험이 Claude에만 국한된 것이 아니라고 반박

백악관의 접근 회수 명령과 Anthropic의 대응

  • 일련의 사건이 겹치면서 백악관은 Anthropic을 신뢰할 수 없다고 결론, 금요일에 미국 내 이민자를 포함한 모든 외국 국적자에 대한 Mythos 및 Fable 5 접근 회수를 명령
  • Anthropic은 국적 기반 접근 차단이 프라이버시 보호와 병행하기 어렵다고 판단, 모델 전면 비활성화가 낫다고 결정
    • 백악관과 Anthropic은 Mythos 및 Fable 5 복구를 둘러싼 수일간의 협상 이후에도 여전히 이견 상태

Project Glasswing과 SK Telecom 합류

  • Claude Mythos는 소프트웨어 취약점 식별 능력이 탁월해, Anthropic은 Project Glasswing이라는 프로그램을 통해 신뢰할 수 있는 소수 조직에만 초기 접근을 제한
  • 이달 초 한국 최대 무선 통신사 SK Telecom은, 외부 전문가 및 US 정부와의 수주간 긴밀한 협업 이후 프로그램이 확대되면서 약 150개 기업 중 하나로 Mythos 접근권을 받음
  • Anthropic은 논평을 거부했고, 백악관과 SK Telecom은 즉시 응답하지 않음

중국 연계 의혹과 SK Telecom의 부인

이전 회수 요청과 SK Telecom의 Anthropic 투자

  • 이달 초 Project Glasswing 확대 발표 직후, 백악관은 Anthropic에 SK Telecom의 Mythos 접근권 회수를 요청
    • Anthropic은 즉시 응했으며, 당시 US 정부는 모델에 대한 수출 통제를 위협하지 않음
  • SK Telecom은 여러 차례 Anthropic에 자본을 투입했으며, 2023년 1억 달러 투자가 통신 산업 맞춤형 AI 모델 개발을 위한 상업적 파트너십 형성과 맞물림
  • SK Telecom은 Samsung Electronics, 한국인터넷진흥원(Korea Internet and Security Agency)과 함께 Project Glasswing에 참여한 여러 한국 조직 중 하나

SK Group과 중국 사업 관계

  • SK Telecom 자체는 중국 내 대규모 사업이 없어 보이나, 반도체·에너지 등 폭넓은 중국 사업을 가진 대기업집단 SK Group의 일원
  • 2024년 SK Telecom은 중국에서 주로 투자 관련 활동으로 약 190만 달러 매출을 올렸고, 현지 직원은 7명에 불과

20년 이상 이어진 중국 통신 사업 이력

  • 중국 통신 산업 관여는 20년 이상 거슬러 올라감
  • 2004년 SK Telecom과 국영 통신사 China Unicom은 UNISK라는 합작사를 설립해 중국에서 무선 인터넷·모바일 콘텐츠 서비스 제공
    • 외국 기업과 중국 통신사 간 최초의 합작 중 하나
  • 2006년 SK Telecom은 China Unicom 홍콩 상장 법인의 전환사채에 10억 달러를 투자, 이후 약 6.6% 지분으로 전환
  • 이후 파트너십이 해소되기 시작, 2009년 SK Telecom은 약 13억 달러에 China Unicom 지분을 되팔았으나 관련 소규모 금융 이해관계는 유지

China Unicom을 둘러싼 미국의 제재 흐름

  • 2021년 1차 Trump 행정부는 군·정보 부문과 연계되었다고 본 중국 기업을 겨냥한 조치의 일환으로 China Unicom에 대한 US 투자를 제한
  • 올해 4월 US 연방통신위원회(FCC)는 국가안보 우려를 이유로 US 통신사가 China Unicom 등 중국 통신사와 상호접속하는 것을 금지하는 방안을 제안

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 이 사안과 Amazon 관련 기사·토론을 보면, 성실한 기술 언론과 커뮤니티가 정부가 Anthropic 모델을 막은 진짜 이유를 찾으려는 것처럼 보임
    하지만 DoD와의 충돌, 그리고 현 정부가 OpenAI와 XAI를 훨씬 더 지지하고 또 그쪽의 지지를 받는다는 점을 떠올리면, 이것도 “진보 성향” 회사와 경쟁사·정부 사이의 싸움이 한 단계 더 커진 것일 수 있음
    Amazon 쪽 누군가가 뭔가 말했을 수도 있겠지만, 오컴의 면도날로 보면 공급업체 제재가 별 효과 없자 정부가 기회를 잡은 것 같음

    • Anthropic은 대형 기술 기업들이 한 번씩 거치는 이념적 저항기를 지나고 있음. Google, Facebook, Apple, Reddit, Microsoft, 특히 Microsoft도 모두 그런 시기를 겪었음
      결국 미국 정부와 싸우는 건 힘들고 비싸고 소란만 크다는 걸 깨닫고, 서로 적당한 이해관계에 도달하는 편이 쉽다고 판단하게 됨
    • 클릭을 끌 헤드라인을 찾는 것일 뿐임. 이 정부가 하는 일에 진정성이 없다는 건 모두 알지만, “정말 그럴 수도 있나”라는 논란이 있는 척하는 게 지난 10년 동안 돈이 되는 장사였음
    • 정부가 승자를 골라주려는 냄새가 강하게 남. 적어도 패자는 고르려는 듯함

  • “SK Telecom은 Anthropic에 여러 차례 자본을 투입했고, 2023년에는 통신 산업에 맞춘 AI 모델 개발을 위한 상업적 파트너십과 함께 1억 달러를 투자했다”
    “White House는 Anthropic에 SK Telecom의 Mythos 접근 권한을 취소하라고 요청했고, Anthropic은 즉시 따랐다”
    여기서 배울 점은 미국 회사에 투자하지 말라는 것임

    • 회사에 투자한 것과 그 회사의 서비스를 쓸 수 있는지는 별개의 문제임
      모델 접근권을 잃어서 기분 좋지는 않겠지만, 투자로 벌 돈이 그 손실을 훨씬 넘길 가능성이 큼
    • 배울 점은 그게 아님. 미국 투자로 벌 수 있는 돈은 엄청나게 많음
      진짜 교훈은 미국 AI 모델에 의존하지 말라는 것임. 경쟁할 수 있는 기반 모델을 투자하고 만들어야 하고, 가능하면 공개 가중치와 공개 가중치 인프라까지 갖춰야 함

  • 한국 정치 기사 댓글들을 보면 핵심은 SKT가 실제로 중국과 관련이 있느냐가 아니라, AI 공급업체 차단 스위치가 이제 모델 성능 사양의 영역 밖으로 나갔다는 데 있음
    외국 기업이 AI를 업무 흐름에 통합할 때는 평가 기준에 공급업체의 지속 가능성 항목을 추가해야 할 듯함
    기업 입장에서는 끊기지 않는 연속성이 중요하고, 이번 일로 Anthropic은 스스로 내세운 정책과 달리 신뢰를 크게 잃을 가능성이 큼

  • Wired의 헤드라인은 사안을 오해하게 만드는 방식으로 재구성했음. SK Telecom 문제는 Fable 출시 이전에 이미 정리된 사안이었음
    영향을 준 요인일 수는 있지만, 종료의 핵심은 Fable 탈옥에 대한 업계 보도였고, Amazon CEO Andy Jassy가 이를 주도했다는 보도가 있음
    더 흥미롭고 정직한 관점은 Glasswing의 심각성을 있는 그대로 받아들인 업계가 Fable 출시로 허를 찔렸고, Glasswing 때문에 드러난 몇 달치 버그 수정 대기열이 남아 있는 상태에서 잔여 위험에 완전히 노출됐다고 느껴 시간을 더 벌고 싶어 했다는 것임
    Wired가 특종을 잡은 것처럼 보이려 일부러 오도한 것 같고, 실제로는 부정직한 보도라 부끄러운 일임

    • 이 이론에는 두 가지 문제가 있음
      첫째, Amazon이 White House에 항의하는 게 첫 수가 되지는 않았을 것임. Amazon과 Anthropic은 White House를 거치는 것보다 서로 직접 이야기하는 편이 훨씬 쉬움. Amazon, 아마 다른 업체들도 Anthropic에 Mythos급 모델을 내지 말라고 이미 요청했는데 Anthropic이 무시하고 출시했다는 증거가 필요함. 그런 발언이 공개 기록으로 남아 있나?
      둘째, Amazon이 찾은 탈옥이 실제여야 함. White House 참모들이 AI 전문가가 아니어서 탈옥이 뭔지 잘 모를 수는 있지만, Andy Jassy에게는 그 주장을 하기 훨씬 어려움. 수출 통제 명령의 진짜 이유가 탈옥이었다면, 그 탈옥은 중요하고 Amazon에 실질적 피해를 줄 정도여야 함. 그리고 Dario에게 이미 거절당했다는 전제가 있어야 Jassy가 White House에 넘겼을 가능성이 생김
      하지만 그 탈옥이 실제였다는 증거는 없음. “이 코드 고쳐줘”라는 요청 수준이었다는 이야기가 하나 있을 뿐임. 어쨌든 Anthropic은 이른바 탈옥이 다른 모델로는 이미 할 수 없던 취약점 작업을 가능하게 한 것은 아니라고 공개적으로 밝혔음
    • Wired는 몇 년 전부터 반대 성향의 NY Post급이 됐음
    • Amazon이 관련돼 있으면서도 Anthropic을 엿 먹이려는 것 말고 다른 해석이 가능한가? Amazon은 AWS에서 Anthropic 모델을 제공하는 계약이 있는데, 왜 Anthropic에 불리하게 움직이겠다는 건지 모르겠음
    • 요즘 대부분의 헤드라인은 오해를 부르는 것 같음. 소셜 미디어가 저널리즘을 망가뜨렸음
    • 맞음. 이 사안의 중심에 있는 회사는 Amazon임. 다만 Amazon만 그런 건 아니고, 지난주에 나도 우연히 Fable을 탈옥시킬 수 있었음: https://news.ycombinator.com/item?id=48576628

  • 그렇다면 왜 미국 안에서도 이걸 못 쓰는 건가?

  • 중국이 6개월 안에 비슷한 모델을 내놓으면 이 Fable 5 논란 전체가 꽤 우스워 보일 것임

    • Fable/Mythos는 Anthropic에서 추론 토큰을 100% 숨기는 첫 모델임. 이제 중국 모델의 발전이 어느 정도까지 증류 기법 덕분이었는지에 대한 데이터가 훨씬 많이 나올 것 같음
    • Google도 못 했고, OpenAI도 안 했고, Meta도 안 했음
      왜 중국은 할 수 있다고 생각하는지 모르겠음
      격차는 더 커질 거라고 꽤 확신함
    • 제한이 없었다면 한 달도 안 걸렸을 것임. 그 이유 중 하나는 중국이 증류를 써서 동급 성능에 도달할 수 있기 때문일 수 있음

  • 중국 자본이 한국의 국내 기업과 정치인을 통해 한국 사회 전반에 얽히고 들어오는 건 매우 현실적인 일임

  • 10년도 더 전에, 몇 년 뒤 Cisco에 크게 인수된 것으로 알려진 보안 리더가 있던 기술 모임에 다녔음
    한 학생이 중국의 만리방화벽을 우회하는 프로젝트를 만들고 싶어 했는데, 그 보안 리더는 학생에게 바보 같고 불가능하다며 시도조차 하지 말라고 말했음. 한때 해커였고 표현의 자유를 지지한다고 주장하던 사람이었음
    그가 학생에게 그렇게 말한 실제 이유는 중국 정부를 지지하기 때문이었다고 봄. 이후 들은 여러 발언이 그게 사실임을 확신하게 했고, 그 스타트업이 중국 정부 자금까지 받았을 거라고 추측함
    기술 리더들이 수십 년 동안 중국 정부 같은 살인적 정권을 공개적으로 지지해도 아무런 역풍이 없다는 게 정말 실망스러움. 중국 정부는 Putin과 러시아 정부보다 훨씬 나쁘고, 돈과 기술은 100배쯤 더 많음
    그가 러시아를 지지했다면 아마 취소당하고 다시는 기술 업계에 발을 못 붙였을 것임

  • 우리 중 다수는 Claude Fable이나 Mythos보다 더 뛰어난 코더와 사이버보안 전문가를 알고 있음
    이런 모델이 엄청난 찬사와 신중한 대우를 받는 모습은 놀라운데, 동시에 더 많은 전문성을 가진 인간들은 버려지고 해고되고 있음

    • 그런 사람들은 분명 있지만 드물고, 식별하고 채용하기 어렵고, 훈련에 몇 년이 걸림. Mythos/Fable은 수도꼭지처럼 바로 쓸 수 있음
    • 그런 찬사와 관심이 우연이 아니라는 사실을 무시하는 듯함. 그건 Anthropic의 대규모 홍보가 만든 직접적 결과임
      AGI와 Skynet이 그들의 마케팅이고, Dario가 그 과장 홍보의 최전선에 있음
      착각하면 안 됨. 이건 평범한 스타트업이 아니라 1조 달러짜리 회사이고, 경쟁사를 금지시키는 식으로 정책에 영향을 줄 돈과 잠재적 권력을 갖고 있음
답변달기