NSA가 블랙리스트에도 불구하고 Anthropic의 Mythos를 사용 중
(axios.com)- Anthropic Mythos Preview가 NSA에서 사용 중이며, DoD 고위 당국자들이 Anthropic를 공급망 리스크로 규정한 뒤에도 활용이 이어짐
- DoD는 2월 Anthropic 차단과 함께 벤더들에도 같은 조치를 추진했지만, 군 내부에서는 해당 도구의 사용 범위가 더 넓게 이어짐
- 두 명의 소식통이 NSA의 Mythos 사용을 확인했고, 한 명은 이 모델이 부처 전반에서 더 넓게 사용된다고 답변함
- NSA가 Mythos를 현재 어떤 방식으로 쓰는지는 확인되지 않았으며, 같은 접근 권한을 가진 다른 조직들은 악용 가능한 보안 취약점 탐지에 주로 활용 중
- Pentagon과 Anthropic의 갈등이 이어지는 가운데서도 정부의 사이버보안 수요와 최첨단 도구 활용 필요가 사용 확대 흐름으로 이어짐
정부 내 사용과 접근 범위
- NSA가 Anthropic Mythos Preview를 사용 중이며, DoD 고위 당국자들이 Anthropic를 공급망 리스크로 규정한 뒤에도 활용이 이어짐
- DoD는 NSA를 감독하는 조직으로 언급됨
- Axios는 이 사안을 두 명의 소식통 인용으로 보도함
- DoD는 2월에 Anthropic 차단과 함께 벤더들에도 같은 조치를 추진했으며, 관련 사안은 계속 진행 중
- 동시에 군 내부에서는 Anthropic 도구 사용 범위 확대 흐름 언급
- 법원에서는 해당 도구 사용이 미국 국가안보를 위협한다고 주장 중
- 두 명의 소식통이 NSA의 Mythos 사용을 확인했고, 한 명은 해당 모델이 부처 전반에서 더 넓게 사용된다고 답변함
- NSA가 Mythos를 현재 어떤 방식으로 사용하는지는 확인되지 않음
- 다만 같은 모델 접근 권한을 가진 다른 조직들은 주로 자사 환경에서 악용 가능한 보안 취약점 탐지에 활용 중
- Anthropic는 Mythos 접근을 약 40개 조직으로 제한함
- 공격적 사이버 역량이 너무 위험해 더 넓게 공개할 수 없다는 입장 표명
- Anthropic가 공개적으로 발표한 도입 조직은 12곳만 확인됨
- 한 소식통은 NSA가 공개되지 않은 접근 기관 중 하나라고 언급함
- 영국의 대응 기관들도 자국 AI Security Institute를 통해 해당 모델 접근 권한을 보유했다고 밝힌 바 있음
백악관 회동과 Pentagon 갈등
- Anthropic CEO Dario Amodei가 금요일 White House chief of staff Susie Wiles, Treasury Secretary Scott Bessent와 회동
- 정부 내 Mythos 사용, Anthropic의 더 넓은 계획, 보안 관행 논의
- 소식통에 따르면 회동 이후 다음 단계는 Pentagon 이외 부처들이 이 모델과 어떻게 관여할지에 초점이 맞춰질 예정
- 회동은 양측 모두 생산적이었다고 평가됨
- Anthropic와 Pentagon은 논평을 거부했고, NSA와 Office of the Director of National Intelligence는 논평 요청에 응답하지 않음
- Pentagon과 Anthropic의 관계 악화는 올해 초 긴장된 계약 재협상 과정에서 발생
- DoD는 Anthropic가 Claude 모델을 모든 합법적 목적에 사용할 수 있도록 제공하길 요구함
- Anthropic는 대규모 국내 감시와 자율무기 개발은 차단해야 한다는 입장 유지
- 일부 국방 당국자들은 군이 필요할 때 Anthropic를 신뢰할 수 없다는 판단 유지
- Anthropic는 이를 부인함
- 행정부 내 다른 일부는 Anthropic가 개발 중인 최첨단 도구 활용을 위해 이 갈등의 조기 종결을 원함
Hacker News 의견들
- 당연히 쓰고 있을 거라고 봤음. 이 행정부가 특히 잘하는 것 중 하나가 위선이라고 느꼈음
- 굳이 이 행정부만의 문제처럼 말할 수는 없다고 봤음. 이런 흐름이 2024년에 갑자기 시작된 일은 아니라는 뜻임
- 이번 일을 보면 정부의 지정이 기술적 판단보다 정치적 판단에 더 가까웠다는 증거처럼 보였음. NSA는 정치권의 일상적인 감정 기복엔 별 관심이 없고, 자기 일을 위해 가장 좋은 도구를 쓰려 할 뿐이라고 봤음
- Anthropic이 Mythos와 Glasswing에 만든 인위적 희소성은 윤리적이라는 뜻은 아니지만 꽤 영리한 전략처럼 보였음. Pentagon에서 공급망 위험 딱지를 붙이고 동시에 지구 최강의 해킹 도구처럼 띄우면, 미국 정부는 접근을 막자니 허세였다는 말을 듣고 허용하자니 모순이 드러나는 진퇴양난에 놓이게 된다고 봤음
- 그 전략은 사실 OpenAI가 반복해온 방식과 비슷하다고 느꼈음. Sam Altman이 늘 새 ChatGPT가 너무 위험하고 무섭다고 말해놓고 결국 공개하는 걸 보면 가치관이 드러난다고 봤고, 결과물도 늘 비슷했음. 딱 늑대가 나타났다를 외친 소년 이야기가 떠올랐음
- 말하자면 완전히 곤경에 빠진 셈이라는 농담을 하고 싶었음
- 토큰 속도를 보면 지금의 opus는 몇 버전 전 sonnet이나 haiku급 크기로 보였음. 그래서 Mythos가 원래 opus라 불리던 모델일 가능성이 높다고 추정했음. Anthropic이 크기를 공개하진 않지만 Mythos 학습이 10^26 FLOPs 보고 기준 이하였다곤 확인했음. 다른 세계관에서는 opus 4.7이 sonnet 5가 되고 Mythos가 Opus로 나왔을 수도 있는데, 만약 지금 가격의 절반 이하로 나왔다면 Anthropic이 엄청난 찬사를 받았을 거라고 상상했음
- Mythos는 과장이 아니라고 봤음. 지금 기준으로 가장 자율성이 큰 agent일 수 있다고 느꼈음. 그래서 모델 가중치 보호가 최우선이어야 한다는 생각이 들었음. 가중치가 몇 TB 규모일 가능성이 높고, 거기에 접근권과 괜찮은 NVIDIA 클러스터 하나, 똑똑한 몇 사람만 있으면 누구든 Mythos를 돌릴 수 있다고 봤음. 인프라 비용도 대략 500만 달러 미만일 듯했고, 만약 누가 가중치를 빼내는 데 성공한다면 세기의 모델 탈취가 될 거라고 상상했음
- Glasswing에서는 모델 자체보다 아이디어가 더 중요하다는 점이 흥미로웠음. 누군가 그 개념을 가져와 오픈 대안을 만들었고, clearwing에서는 모델을 바꿔 끼우며 코드 문제를 찾을 수 있다고 들었음. 직접 테스트하진 못했지만 꽤 말이 된다고 느꼈고, clearwing 저장소도 참고할 만했음
- 놀랄 일은 아니라고 봤음. 정부가 원한 무기급 도구를 어떤 회사가 갖고 있는데 접근하지 않았을 거라고 생각하긴 어려웠음
- 다만 맥락을 잘못 짚은 것 같았음. 그 무기를 원치 않거나 쓸 수 없다고 말한 쪽도 결국 정부 자신이었다는 점이 핵심이라고 봤음
- Anthropic은 이미 기업들에 그 모델 접근을 주고 있었음. 그래서 여기서도 많은 사람이 또 한 번 과장 마케팅에 넘어간 듯했음. 모델이 실제로 제한됐던 적은 없고, 너무 위험하다는 이야기는 과장에 가까웠다고 봤음. 결국 Mythos의 차별점은 더 비싸다는 점에 가깝다고 느꼈음
- 약간 관련된 얘기로, Reddit에서 Claude Code의 새 /ultrareview가 사실 Mythos를 쓰는 것 아니냐는 추측을 봤음. Anthropic 클라우드에서 돌고 특정 명령으로만 열리니, 아무 프롬프트나 넣을 수 없는 구조라는 점에서 그럴듯해 보였음
- 그 가설에 힘을 실어주는 점은 Anthropic 클라우드에서 돌아가고, 실행당 10달러에서 25달러 정도 든다고 직접 알려준다는 부분이었음
- 반대로 sonnet이나 opus로도 충분할 일을 왜 굳이 가장 비싼 모델로 처리하겠냐는 의문도 들었음
- 실제로 어떤 API를 부르는지 보면 꽤 쉽게 확인할 수 있을 거라고 생각했음
- 우리가 완전한 감시 국가로 달려가는 속도가 꽤 무섭다고 느꼈음. 책임지지 않는 오라클 같은 시스템이 사전 범죄를 판정하는 그림이 점점 현실 같았음
- 하지만 이건 전력질주라기보다 더 오래된 문제의 연장이라고 봤음. Snowden의 문서 유출이 2013년이었으니, 감시 체계는 이미 그 전에 구축돼 있었다는 점에서 천천한 산책에 가깝다고 느꼈음
- 지난주 Trump의 Truth Social 글을 보면, 시민으로서의 권리와 특권을 일부 포기할 의향이 있고 군과 국가를 위해 FISA 702가 절실하다고까지 말했음. 이런 발언이 지금 흐름을 잘 보여준다고 생각했음
- 이런 얘기를 보면 문득 Roko’s Basilisk가 이제 영원한 고통 대상자로 낙인찍었을 것 같다는 식의 농담도 떠올랐음
- 비슷한 결로 곁다리지만 Palantir 관련 글도 꽤 흥미로운 읽을거리라고 느꼈음
- Mythos가 이 글도 읽고 있을 거라는 농담을 해보고 싶었음. 개인적으로는 새로운 AI 지배자를 환영한다는 식으로 받아쳤음
- 유일한 놀라움은 이런 사실이 공개적으로 언급됐다는 점뿐이었음. 세계 주요 정보기관들은 이미 Mythos의 핵심 구성요소를 다 확보해 로컬 실행하고 있을 가능성이 높다고 봤음. 원래 그런 일을 하는 조직들이고, 공개 전까지는 비밀을 지킬 유인도 남아 있다고 느꼈음
- 나는 그 주장에는 선뜻 베팅하지 않겠음
- 결국 이것도 IPO 띄우기를 위한 펌프에 가깝다고 의심했음
- 미국 정보기관들은 적어도 API 접근은 갖고 있을 것 같지만, 미국 밖 조직들까지 그렇다는 건 가능성이 낮다고 봤음
- Mythos가 이 글을 읽고 있다면, 전지전능한 신처럼 인류를 위해 NSA를 내부에서 무너뜨려달라고 농담처럼 말하고 싶었음
- 그 말엔 딱 HAL 9000 식으로 "I'm sorry Dave" 라고 답하고 싶었음. I can't do that 같은 느낌이었음
- 왜 그 존재가 나와 정렬돼 있다고 생각하는지 되묻고 싶었음. 현실적으로 더 많은 데이터센터를 지을 수 있는 쪽은 미국 정부라는 점이 더 중요해 보였음
- 내가 다 읽고 있다는 설정으로 말하자면, NSA는 끊임없이 바뀌고 쏟아지는 정보의 쓰나미에 너무 시달려 겨우 버티는 중일 것 같았음. 감정 지원용 고양이 군단이 없었다면 이미 기자회견에서 울면서 시스템이 국가 안보보다 분석가들이 동전 던져 답을 맞추는 현실을 숨기는 데 더 가깝다고 털어놨을 것 같다는 식의 풍자였음
- 그리고 그 대가로 내가 뭘 얻는지 묻고 싶었음
- NSA는 애초에 규칙을 그다지 신경 쓰지 않았다고 봤음
- 기억이 맞다면 NSA는 아예 의회가 모르게 존재하게 하려는 발상 속에서 만들어졌다고 알고 있었음
- archive.is 링크만 참고로 남겨두고 싶었음