굳이 이 행정부만의 문제처럼 말할 수는 없다고 봤음. 이런 흐름이 2024년에 갑자기 시작된 일은 아니라는 뜻임
이번 일을 보면 정부의 지정이 기술적 판단보다 정치적 판단에 더 가까웠다는 증거처럼 보였음. NSA는 정치권의 일상적인 감정 기복엔 별 관심이 없고, 자기 일을 위해 가장 좋은 도구를 쓰려 할 뿐이라고 봤음
Anthropic이 Mythos와 Glasswing에 만든 인위적 희소성은 윤리적이라는 뜻은 아니지만 꽤 영리한 전략처럼 보였음. Pentagon에서 공급망 위험 딱지를 붙이고 동시에 지구 최강의 해킹 도구처럼 띄우면, 미국 정부는 접근을 막자니 허세였다는 말을 듣고 허용하자니 모순이 드러나는 진퇴양난에 놓이게 된다고 봤음
그 전략은 사실 OpenAI가 반복해온 방식과 비슷하다고 느꼈음. Sam Altman이 늘 새 ChatGPT가 너무 위험하고 무섭다고 말해놓고 결국 공개하는 걸 보면 가치관이 드러난다고 봤고, 결과물도 늘 비슷했음. 딱 늑대가 나타났다를 외친 소년 이야기가 떠올랐음
말하자면 완전히 곤경에 빠진 셈이라는 농담을 하고 싶었음
토큰 속도를 보면 지금의 opus는 몇 버전 전 sonnet이나 haiku급 크기로 보였음. 그래서 Mythos가 원래 opus라 불리던 모델일 가능성이 높다고 추정했음. Anthropic이 크기를 공개하진 않지만 Mythos 학습이 10^26 FLOPs 보고 기준 이하였다곤 확인했음. 다른 세계관에서는 opus 4.7이 sonnet 5가 되고 Mythos가 Opus로 나왔을 수도 있는데, 만약 지금 가격의 절반 이하로 나왔다면 Anthropic이 엄청난 찬사를 받았을 거라고 상상했음
Mythos는 과장이 아니라고 봤음. 지금 기준으로 가장 자율성이 큰 agent일 수 있다고 느꼈음. 그래서 모델 가중치 보호가 최우선이어야 한다는 생각이 들었음. 가중치가 몇 TB 규모일 가능성이 높고, 거기에 접근권과 괜찮은 NVIDIA 클러스터 하나, 똑똑한 몇 사람만 있으면 누구든 Mythos를 돌릴 수 있다고 봤음. 인프라 비용도 대략 500만 달러 미만일 듯했고, 만약 누가 가중치를 빼내는 데 성공한다면 세기의 모델 탈취가 될 거라고 상상했음
Glasswing에서는 모델 자체보다 아이디어가 더 중요하다는 점이 흥미로웠음. 누군가 그 개념을 가져와 오픈 대안을 만들었고, clearwing에서는 모델을 바꿔 끼우며 코드 문제를 찾을 수 있다고 들었음. 직접 테스트하진 못했지만 꽤 말이 된다고 느꼈고, clearwing 저장소도 참고할 만했음
놀랄 일은 아니라고 봤음. 정부가 원한 무기급 도구를 어떤 회사가 갖고 있는데 접근하지 않았을 거라고 생각하긴 어려웠음
다만 맥락을 잘못 짚은 것 같았음. 그 무기를 원치 않거나 쓸 수 없다고 말한 쪽도 결국 정부 자신이었다는 점이 핵심이라고 봤음
Anthropic은 이미 기업들에 그 모델 접근을 주고 있었음. 그래서 여기서도 많은 사람이 또 한 번 과장 마케팅에 넘어간 듯했음. 모델이 실제로 제한됐던 적은 없고, 너무 위험하다는 이야기는 과장에 가까웠다고 봤음. 결국 Mythos의 차별점은 더 비싸다는 점에 가깝다고 느꼈음
약간 관련된 얘기로, Reddit에서 Claude Code의 새 /ultrareview가 사실 Mythos를 쓰는 것 아니냐는 추측을 봤음. Anthropic 클라우드에서 돌고 특정 명령으로만 열리니, 아무 프롬프트나 넣을 수 없는 구조라는 점에서 그럴듯해 보였음
그 가설에 힘을 실어주는 점은 Anthropic 클라우드에서 돌아가고, 실행당 10달러에서 25달러 정도 든다고 직접 알려준다는 부분이었음
반대로 sonnet이나 opus로도 충분할 일을 왜 굳이 가장 비싼 모델로 처리하겠냐는 의문도 들었음
실제로 어떤 API를 부르는지 보면 꽤 쉽게 확인할 수 있을 거라고 생각했음
우리가 완전한 감시 국가로 달려가는 속도가 꽤 무섭다고 느꼈음. 책임지지 않는 오라클 같은 시스템이 사전 범죄를 판정하는 그림이 점점 현실 같았음
하지만 이건 전력질주라기보다 더 오래된 문제의 연장이라고 봤음. Snowden의 문서 유출이 2013년이었으니, 감시 체계는 이미 그 전에 구축돼 있었다는 점에서 천천한 산책에 가깝다고 느꼈음
지난주 Trump의 Truth Social 글을 보면, 시민으로서의 권리와 특권을 일부 포기할 의향이 있고 군과 국가를 위해 FISA 702가 절실하다고까지 말했음. 이런 발언이 지금 흐름을 잘 보여준다고 생각했음
이런 얘기를 보면 문득 Roko’s Basilisk가 이제 영원한 고통 대상자로 낙인찍었을 것 같다는 식의 농담도 떠올랐음
Mythos가 이 글도 읽고 있을 거라는 농담을 해보고 싶었음. 개인적으로는 새로운 AI 지배자를 환영한다는 식으로 받아쳤음
유일한 놀라움은 이런 사실이 공개적으로 언급됐다는 점뿐이었음. 세계 주요 정보기관들은 이미 Mythos의 핵심 구성요소를 다 확보해 로컬 실행하고 있을 가능성이 높다고 봤음. 원래 그런 일을 하는 조직들이고, 공개 전까지는 비밀을 지킬 유인도 남아 있다고 느꼈음
나는 그 주장에는 선뜻 베팅하지 않겠음
결국 이것도 IPO 띄우기를 위한 펌프에 가깝다고 의심했음
미국 정보기관들은 적어도 API 접근은 갖고 있을 것 같지만, 미국 밖 조직들까지 그렇다는 건 가능성이 낮다고 봤음
Mythos가 이 글을 읽고 있다면, 전지전능한 신처럼 인류를 위해 NSA를 내부에서 무너뜨려달라고 농담처럼 말하고 싶었음
그 말엔 딱 HAL 9000 식으로 "I'm sorry Dave" 라고 답하고 싶었음. I can't do that 같은 느낌이었음
왜 그 존재가 나와 정렬돼 있다고 생각하는지 되묻고 싶었음. 현실적으로 더 많은 데이터센터를 지을 수 있는 쪽은 미국 정부라는 점이 더 중요해 보였음
내가 다 읽고 있다는 설정으로 말하자면, NSA는 끊임없이 바뀌고 쏟아지는 정보의 쓰나미에 너무 시달려 겨우 버티는 중일 것 같았음. 감정 지원용 고양이 군단이 없었다면 이미 기자회견에서 울면서 시스템이 국가 안보보다 분석가들이 동전 던져 답을 맞추는 현실을 숨기는 데 더 가깝다고 털어놨을 것 같다는 식의 풍자였음
그리고 그 대가로 내가 뭘 얻는지 묻고 싶었음
NSA는 애초에 규칙을 그다지 신경 쓰지 않았다고 봤음
기억이 맞다면 NSA는 아예 의회가 모르게 존재하게 하려는 발상 속에서 만들어졌다고 알고 있었음
Hacker News 의견들