# GLM 5.2와 다가오는 AI 추론 마진 붕괴 > Clean Markdown view of GeekNews topic #31209. Use the original source for factual precision when an external source URL is present. ## Metadata - GeekNews HTML: [https://news.hada.io/topic?id=31209](https://news.hada.io/topic?id=31209) - GeekNews Markdown: [https://news.hada.io/topic/31209.md](https://news.hada.io/topic/31209.md) - Type: GN+ - Author: [neo](https://news.hada.io/@neo) - Published: 2026-07-07T16:36:26+09:00 - Updated: 2026-07-07T16:36:26+09:00 - Original source: [martinalderson.com](https://martinalderson.com/posts/the-upcoming-ai-margin-collapse-part-1-glm-5-2/) - Points: 1 - Comments: 1 ## Topic Body - GLM 5.2는 **오픈 가중치(open weights)** 모델이 Opus·GPT급 에이전트 작업에 근접하면서, 폐쇄형 프런티어 모델의 높은 추론 마진을 압박할 수 있음을 보여줌 - AI 비용의 쟁점은 한 번 쓰는 학습비보다 수요에 따라 늘어나는 **추론 비용**이며, $25/MTok 수준의 API 가격에는 높은 총마진이 포함돼 있을 가능성이 큼 - 품질은 Opus와 구분하기 어려운 수준이지만, 많이 “생각”하는 특성 때문에 **속도와 토큰 사용량**이 늘고 비전 미지원·약한 웹 검색이 약점으로 남음 - Z.ai와 Fireworks의 OpenAI·Anthropic 호환 엔드포인트 덕분에 Claude Code와 Codex에서는 **base URL과 API key** 교체만으로 실험할 수 있음 - GLM 5.2 가격은 약 **$4.40/MTok**로 Opus 소매가의 20% 미만, GPT5.5의 약 15% 수준이며 서빙 스택 최적화와 AMD 활용으로 더 내려갈 수 있음 --- ### 비용 구조: 학습비보다 추론비가 마진을 좌우함 - DeepSeek R1 당시 시장은 V3 모델 학습비가 600만 달러 미만이라는 보도에 반응해 모델 학습용 대규모 설비 투자가 끝났다고 해석했지만, 이는 AI 비용 구조를 잘못 읽은 사례에 가까움 - **학습 비용**은 큰 자본이 들어가지만 기본적으로 선불 고정비 성격이 강함 - 프런티어 랩은 경쟁 유지를 위해 계속 새 모델을 학습하므로 완전한 일회성 비용은 아님 - 그래도 고객 사용량에 비례해 증가하는 추론 비용과는 성격이 다름 - **추론 비용**은 수요와 함께 늘어나며 실제 한계비용을 만듦 - Anthropic과 OpenAI가 추론에 $25/MTok을 청구할 때, 컴퓨트 비용 대비 약 90% 총마진일 가능성이 있다는 계산이 나옴 - OpenAI의 유출 재무자료는 매출 기준 약 60% 총마진을 시사하지만, 여기에는 지원, 결제 처리, 기타 서비스 비용이 포함됐을 가능성이 있음 - 프런티어 AI 랩의 사업 모델은 비싼 인력과 컴퓨트로 모델을 학습한 뒤, 수익성 높은 대량의 추론으로 그 비용을 상각하는 구조임 ### GLM 5.2의 품질과 사용 경험 - Z.ai의 **GLM 5.2**는 Opus와 GPT에 맞서는 첫 진정한 오픈 가중치 경쟁 모델로 볼 수 있음 - 작성 시점의 최신 GPT는 GPT 5.5로 언급됨 - 향후 모델이 이 수준을 넘어설 수 있다는 단서도 붙음 - 실제 사용에서는 일상적으로 쓰는 Opus와 구분하기 어려울 정도로 품질이 높았음 - 가장 큰 단점은 **느린 체감 속도**임 - 백그라운드 PR 리뷰처럼 시간 민감도가 낮은 비상호작용 에이전트 작업에서는 큰 문제가 아님 - 상호작용 사용에서는 주의 집중을 유지하기에 다소 느림 - 느림은 서빙 자체보다 모델이 많이 “생각”하는 데서 주로 발생함 - Fireworks의 GLM 5.2는 tokens/sec 기준으로 빠르게 출시됐지만, 실제 속도는 다소 기복이 있었음 - 더 많이 생각하는 특성 때문에 **토큰 사용량**이 늘어 비용 효율이 일부 낮아짐 ### 비전과 웹 검색의 약점 - GLM 5.2는 **비전(vision) 지원**이 없음 - Opus 4.7의 고해상도 비전 기능 이후 이미지 기반 PDF, 스크린샷, 디자인 파일을 읽는 사용이 많아졌기 때문에 체감 약점이 큼 - 프런티어 랩 대비 중요한 약점으로 남음 - 웹 검색 기능의 부재 또는 낮은 품질도 에이전트 작업을 제약함 - 거의 모든 에이전트 세션이 항목을 찾아보기 위해 많은 웹 검색을 수행함 - Z.ai는 웹 검색용 대체 MCP를 제공하지만 느리고 품질이 낮았음 - Fireworks는 웹 검색 기능을 제공하지 않음 - 임시 우회책으로 에이전트에 [ddgr](https://github.com/jarun/ddgr) 같은 CLI 기반 웹 검색을 쓰도록 지시할 수 있음 - 좋은 **서드파티 웹 검색 API**는 오픈 가중치 모델 제공자가 아직 채우지 못한 큰 공백을 메울 수 있음 - 웹 검색 역량은 많은 에이전트 작업에 필수이며, 검색 인덱스를 만드는 주체와 적절한 파트너십·연결 작업이 갖춰지면 시간이 지나며 해결될 수 있음 ### 교체 비용이 낮은 오픈 가중치 모델 - 프런티어 랩에 더 위협적인 부분은 오픈 가중치 모델로의 **마이그레이션 난이도**가 낮다는 점임 - Z.ai와 Fireworks는 모두 OpenAI 호환 및 Anthropic 호환 엔드포인트를 제공함 - Claude Code와 Codex에서 base URL을 추론 제공자로 바꿈 - API key를 설정함 - 사용할 모델을 GLM 5.2로 지정함 - Anthropic이 `claude -p`의 비상호작용 에이전트 사용에 API 요금을 부과한다고 발표했다가 철회한 상황에서, 많은 사용 사례는 GLM으로 교체 가능함 - 상호작용 사용에서도 비전 부재와 느린 속도를 제외하면 Claude Code 안에서 Opus가 아닌 모델을 쓰고 있다는 점을 거의 알아차리기 어려웠음 - 이 전환은 Microsoft나 Salesforce식 lock-in처럼 수년간 계획해야 하는 마이그레이션이 아님 - 전환 비용은 낮음 - 프런티어 랩의 정책과 약관 변경을 따라가는 비용보다 낮을 수 있음 - Claude Code가 향후 서드파티 제공자 사용을 어렵게 만들 가능성은 있음 - Codex와 OpenCode를 포함해 좋은 오픈소스 대안이 많음 ### 기업 도입: 데이터 보호와 배포 선택지 - 기업에서 자주 나오는 우려는 **데이터 프라이버시와 보안**임 - Z.ai의 공식 API와 구독은 약한 약관과 중국 본토와의 깊은 연결 때문에 기업에는 선택지가 되기 어렵다고 봄 - 오픈 가중치 모델은 다른 제공자를 선택할 수 있음 - 시장에는 더 적절한 계약 조건을 갖춘 제공자가 많음 - 필요하면 온프레미스 호스팅도 가능함 - 온프레미스 배포는 어떤 제3자에게도 보낼 수 없던 더 민감한 데이터까지 Opus 수준의 에이전트 워크플로에 사용할 수 있게 함 ### 가격과 마진 압박 - GLM 5.2의 현재 가격은 약 **$4.40/MTok** 수준임 - Opus 소매가의 20% 미만 - GPT5.5 비용의 약 15% - 같은 작업에서 GLM 5.2가 더 많은 토큰을 쓰기 때문에 완전한 apples-to-apples 비교는 아님 - 그래도 거의 모든 워크플로에서 비슷한 품질을 50% 이상 저렴하게 제공할 가능성이 높음 - Z.ai는 Anthropic과 OpenAI의 플랜과 유사한 “coding plan” 구독을 제공하며, 더 높은 사용 한도를 내세움 - 다만 학습과 데이터 보존에 관한 느슨한 약관은 전문적 사용에서 판매를 어렵게 만들 수 있음 - 프런티어 랩이 가격을 크게 올릴 경우 예산을 중시하는 사용자에게 신뢰 가능한 선택지가 될 수 있음 - GLM 5.2 비용은 향후 몇 달간 서빙 스택 최적화로 크게 내려갈 것으로 예상됨 - [Wafer](https://www.wafer.ai/blog/glm52-amd)는 AMD 하드웨어에서 GLM 5.2를 실행한 내용을 정리함 - AMD에서 추론을 실행하면 Nvidia Blackwell 대비 토큰당 비용이 2.75배 저렴하다고 제시함 - Fireworks는 GLM 실험을 위한 무료 크레딧을 제공했음 ## Comments ### Comment 61380 - Author: neo - Created: 2026-07-07T16:36:27+09:00 - Points: 1 ###### [Hacker News 의견들](https://news.ycombinator.com/item?id=48809877) - 원가 자체가 그렇게 중요하다고는 확신이 안 됨 1) 클라우드 등장 이후 **컴퓨팅 비용**은 크게 떨어졌지만 하이퍼스케일러들은 여전히 높은 마진을 유지함 2) 오픈소스 오피스 제품군은 많지만 G Suite나 Office의 보편성과 경쟁하지 못했고, GitHub와 Slack도 비슷함 3) Windows와 macOS는 무료 대안이 오래전부터 있었는데도 가정용 데스크톱을 지배함 4) Redis와 Elastic Search처럼 예전엔 오픈소스였던 인프라 구성요소도 Apache 계열 대안이 있지만 여전히 좋은 마진을 냄 마진 붕괴 논리는 이해하지만 역사적 유사 사례가 잘 안 보임. 기업은 서비스 보장, 통합, 그리고 소송 걸 수 있는 상대에게 비싼 돈을 낼 것 같고, 결국 “IBM을 사서 해고당한 사람은 없다”가 반복되는 듯함 - 이 비유가 그렇게 명확하진 않다고 봄. 첫째, LLM은 입출력이 텍스트라 **잠금 효과**가 거의 없어서 쉽게 옮길 수 있음. 둘째, 회사들이 내는 청구서가 얼마나 큰지 과소평가하는 것 같고, 재무 부서들은 이미 보조금이 큰 상황에서도 지출 억제 지시를 받고 있음 셋째, 미국 전략은 강력한 모델 접근을 인위적으로 제한하는 방향으로 보이는데, 중국이 지금 흐름을 이어가면 6개월 안에 Fable만큼 좋은 모델을 내고 막아두지도 않을 것임. 더 싸고 더 좋은 모델이 열려 있으면 전환 유인이 엄청나고, 중국은 점유율을 따고 있다면 가격을 올릴 동기가 훨씬 약함. David Sacks와 미국 정부의 AI 전략은 매우 근시안적이라 역풍을 맞을 것 같음 - 역사적 유사 사례를 떠올릴 때는 **생존자 편향**이 큼. 마진이 붕괴하고 경쟁으로 산업이 범용재가 된 경우, 당시의 대형 독점적 이름들은 더 이상 남아 있지 않기 때문임 1980년대 메모리 칩 마진이 무너져 Intel은 메모리 칩 사업을 완전히 접었고, 당시 Intel은 마이크로프로세서 회사보다 메모리 칩 회사로 더 알려져 있었음. 고급 워크스테이션 마진도 값싼 IBM PC 호환기와 MS Windows 소프트웨어 폭증 앞에서 무너졌고, SGI, Sun, Symbolics, Lucid, LMI 등이 사라지는 직접적 계기가 됨 HP-UX, IRIX, AIX, SCO Unix 같은 독점 UNIX 변종은 사실상 사라졌고, 더 저렴한 독점 운영체제인 Windows와 MacOS, 또는 Linux와 BSD의 오픈소스 후손으로 대체됨. Oracle, dBase, Sybase, FoxPro, Microsoft의 SQL Server와 Access 같은 상용 데이터베이스 업체도 PostGres, MySQL, SQLite로부터 강한 마진 압박을 받았고, Oracle은 거대한 설치 기반과 법무팀 덕에, Microsoft는 OS와 Office 독점에서 교차 보조할 수 있어서 살아남았지만 dBase, Sybase, FoxPro는 사라짐 - 예시들과 달리 **LLM 교체**는 싸고 쉬움. 3개월마다 새 모델이 나오면 사람들이 바로 가져다 쓰기 시작할 정도임 제공자가 달라도 사용자 경험은 같아서 프롬프트를 보내면 답이 돌아옴. 다른 사례들은 지원을 잃거나 어려운 전환 기간을 감수해야 했지만, LLM은 애초에 지원이 거의 없었고 전환도 현재 하네스가 다른 모델을 알도록 업데이트하는 수준임 더 적절한 비교는 AMD의 부상 같음. 시장 지배까지는 못 했을지 몰라도 큰 흠집을 냈고, AMD x86이 Intel x86과 꽤 가깝고 호환되면서 훨씬 쌌다는 점이 컸음 - 이들은 단순히 좋은 마진이 필요한 게 아니라, 몇 년 안에 **거의 1조 달러**를 회수해야 함. Elastic Search나 Redis와 비교하는 건 별로 맞지 않음 하이퍼스케일러가 먹히는 건 무료 대안 대비 실제 가치가 있고, 제공자 전환 비용이 엄청나기 때문임. Windows와 macOS도 다른 것으로 바꾸는 비용이 매우 높고, 가능하지 않은 경우도 많음. Office 역시 호환성 문제와 직원 재교육 때문에 전환 비용이 큼 결국 핵심은 잠금 효과인데, 지금까지 LLM에는 그런 게 없어 보임. 그래서 앞의 논점들은 여기에는 잘 맞지 않는다고 봄 - 오픈소스 오피스 제품군이 G Suite나 Office의 보편성과 경쟁하지 못하는 건 **협업**을 풀기 어렵기 때문이라고 봄. 협업이 없다면 G Suite/Office가 제공하는 건 거의 없음 Mac OS도 무료이긴 함. 맥주처럼 공짜라는 의미에서임 기업이 서비스 보장, 통합, 소송 가능한 상대에게 비싼 돈을 낸다는 점은 맞지만, 큰 틀에서 미국 기업들은 엄청나게 부유해서 합리적 지출자의 좋은 예시는 아닐 듯함 - 지난달 Claude Pro 구독을 취소하고 그 **20달러**로 Openrouter 크레딧을 샀음. 지식 탐색 질문 대부분은 Gemma4로 답할 수 있고, 기본 코드 편집은 Qwen3.6 27b면 충분하며, 정말 어려운 작업도 GLM5.2가 버텨줌 AI를 많이 쓰는 편도 아니어서, 작업 복잡도에 따라 가능한 한 가장 작은 모델을 쓰는 API 크레딧 방식으로 오히려 돈을 아끼고 있음 - 반대 방향에서 동의함. AI가 C/C++ 시니어 시스템 소프트웨어 엔지니어인 내 일을 계속 흡수하고 있는데, 몇 달 동안 gpt-5.5/5.6과 codex를 쓰는 데 몇백 달러밖에 안 썼음 사람들이 뭘 하길래 그렇게 많은 토큰을 태우는지 모르겠지만, 내게는 우스울 정도로 싸고 매일 새 기능을 발견함. 비용이 오르든 내리든, 얻는 것에 비해 너무 싸서 신경 안 씀 - 우리는 소매 소비자 가격, 즉 구독료를 내기 때문임. 같은 토큰도 **기업 과금**에서는 수천 달러가 듦 - **에이전트형 작업 흐름**이 많이 소비함. 자동화된 에이전트 루프가 목표를 향해 계속 움직이는 경우임 LLM을 자기 작업 보조로 쓰면 토큰을 그렇게 많이 쓰지 않지만, 여러 에이전트가 독립적으로 작업하고 서로의 작업을 검토하게 하면 예산이 정말 빠르게 타버림 - 무지, 나쁜 코드 위생, 서툰 프롬프트 때문임. 코딩을 거의 못 하는 입장에서, 에이전트 이전 시대에 Gemini IDE 사용 제한이 거의 없을 때 바이브 코딩으로 만든 오래된 프로젝트들이 있었고, 파일이 수천 줄 이상으로 부풀고 버그 백로그가 쌓였음 멍청한 모델들이 그 지점에서 무너지기 시작했고, 프로젝트가 내 필요에는 그럭저럭 쓸 만해서 멈췄음. 이후 에이전트 코딩과 문제를 고칠 만큼 똑똑한 모델이 나왔지만, 코드베이스가 너무 지저분해서 극도로 비효율적으로 처리했음. 프롬프트 몇 개만으로 5시간 할당량을 써버릴 정도였음 며칠 들여 괜찮은 agent.md를 만들고 코드베이스를 리팩터링하니 이제는 토큰을 조금씩만 씀. 아직도 많은 사람이 그 배에 타고 있을 것 같음. 우리 중 다수는 모범 사례를 전혀 모르고, 에이전트에게 어떻게 행동하라고 말해야 하는지도 모름 돌이켜보면 기본을 며칠 배웠어야 했지만, 모르는 걸 모른다는 게 문제임. 회사들이 신규 사용자를 온보딩할 때 에이전트가 배려심 있게 행동하도록 프롬프트하고 있다고는 잘 못 믿겠고, 나 같은 사람을 중독시키고 토큰을 최대한 쓰게 만드는 게 그쪽에 유리함. 필요 없는 구독과 티어에 몇백 달러를 더 썼지만, 당시에는 0에서 1로 가는 생산성 향상에 비하면 작은 돈이었음 - 같은 경험임. 사람들이 주장하는 만큼의 **토큰 소비량**을 어떻게 태우는지 정말 이해가 안 됨 - 대략 **50만 줄 규모의 코드** 작성을 이끌어 봤음 - 모델 자체에 네이티브 비전 기능이 없어서 이를 보완하는 vision MCP가 있음: [https://docs.z.ai/devpack/mcp/vision-mcp-server]() 웹 검색도 대체로 괜찮았음. ZCode 하네스를 쓰면 Coding Plan 할당량이 더 커짐: [https://zcode.z.ai/en]() 잠깐 써봤는데 OpenCode Desktop과 Claude Desktop 사이쯤에 있음. OpenCode Desktop은 아직 새롭지만 괜찮고, Claude Desktop은 최근 버전이 좋음 모델로서 GLM 5.2는 최대 사고 모드에서는 대체로 만족스럽고, Sonnet 5와 Opus 4.8 사이쯤이며 DeepSeek V4 Pro보다는 확실히 나음 가격 측면에서는 구독이 기대만큼 좋아 보이지 않음. Pro 요금제 50달러의 주간 한도를 하루 만에 60% 정도 썼고, 그나마 5시간 제한마다 20%만 쓰게 되어 있어서 그 정도였지 아니면 80~100%였을 것임. 특별히 미친 작업을 한 것도 아니고, 캐시 적중률 약 96%에 병렬 코드 리뷰 하위 에이전트 최대 3개로 프로젝트 2개에서 긴 작업을 병렬로 한 정도였음 Max 100달러 구독이면 일주일 내내 버티겠지만 Anthropic도 같은 돈으로 그러고, OpenAI도 그럴 것임. 비피크 시간은 더 낫지만 현지 시간 오전 9시부터 오후 1시까지 엄지손가락만 빨고 있을 수는 없음 제대로 된 절감은 Max 요금제에 연간 결제를 붙여야 나오겠지만, 그건 설득이 더 어려움 - 너무 싸서 Cline pass를 **연간 결제**로 바꿨음 - GLM-5V-Turbo도 있음: [https://docs.z.ai/guides/vlm/glm-5v-turbo]() - 이 기업들이 담합해서 가격을 고정하지 못하는 게 중요함. **중국이 경쟁자**로 있는 것이 그걸 보장함 토큰 경제를 이해하는 가장 쉬운 방법은 여전히 기본 미시경제학임. 이게 어떻게 경쟁시장, 즉 이윤이 0으로 가는 시장이 아닐 수 있음? A나 O가 마진을 더 남기려고 하는 무엇이든 경쟁자가 복사하거나 더 낮게 가격을 칠 수 있고, 가격을 낮추면 학습 데이터도 모을 수 있다는 이점이 있음. 담합이나 가격 고정 말고 토큰의 매출총이익이 0으로 가는 걸 막을 수 있는 게 뭐가 있음? - 빠뜨린 게 있는데, 그걸 막을 건 **연방정부 산업정책**임 - 단일 시장 내부 조건을 보는 것도 여전히 미시경제학임. 동의하지만 기업들이 어디서 시장 지배력을 얻을지는 보기 어렵고, 그래서 이윤은 0에 가까워질 것 같음 다만 GPU에 대해서도 똑같이 생각했는데, Nvidia는 아직도 데이터센터에서 제대로 된 경쟁자가 없어 보임 - 좋아하는 비유는 AI가 **전기만큼 싸질 것**이라는 것임 전기를 누가 공급하는지, 어느 발전소에서 나오는지 알고 쓰는가? 아마 모를 것임. 전기는 범용재이고 대부분 정착되어 있으며 에너지 자원이 많기 때문임. 대체 에너지도 있고 석탄 광산도 있음. 이들이 실시간으로 벌어지는 에너지 수급 거래에서 모두 경쟁함. 여기서 OpenRouter를 떠올리면 됨 결국 풍부함 때문에 소비자가 이김 싸고 무한한 지능의 풍요를 보여줄 가장 큰 예시는 GLM5.2가 아니라, 입력 100만 토큰당 0.435달러와 출력 100만 토큰당 0.87달러인 DeepSeek V4 Pro max가 될 것 같음 - “학습은 자본지출이 많이 들지만 고정된 선불 비용이고, 수억 달러를 써서 모델을 학습하면 그걸로 끝난다”는 논점을 이해하지 못하겠음 경쟁자가 있고 사람들이 계속 더 많은 것을 기대하기 때문에 새 모델을 계속 학습해야 한다면, 그리고 개선율 대비 학습 비용이 점점 더 커지는 것 같다면, 이건 계속 부담해야 하는 **상시 비용** 아닌가? 각주가 이 점을 암시하긴 하지만 결국 대충 넘기는 것처럼 보임 모델을 계속 관련성 있게 유지하기 위한 점진적 학습 비용도 있는지 궁금함. 아니면 모델은 학습된 날까지의 사건만 아는 건가? - 이 모델들은 가중치에 내장된 지식에 의존함. 새 라이브러리가 나오고, 새 Linux 버전이 나오고, 어떤 새 프로토콜이 이전 것을 대체하면 LLM이 그걸 알기를 바라게 됨 물론 컨텍스트 창에 넣을 수도 있지만 그건 그 나름의 문제가 있음 유망해 보이는 몇몇 새 연구가 새로운 방법을 주지 않는 한, **학습 비용**은 계속 빠져나가는 구멍이 될 것임 게다가 학습을 멈추면 6개월 뒤 누군가 오픈 가중치 모델을 내놓고, 이제 같은 제품을 최저가로 제공하는 경쟁을 하게 됨 이 사업은 단순한 기술 도구가 아니라 전 세계 노동 시장에 반드시 들어가야 하는 사업이라는 점도 잊으면 안 됨. 1조 달러 가치평가를 정당화하려면 모델이 훨씬 더 좋아야 함 - “AI 경제에서 가장 덜 이해된 다가오는 변화”라고 해놓고 매일 AI 뉴스에 나오는 얘기를 함. 오픈소스 모델이 더 싸지고 품질이 올라간다는 얘기 못 들어봤냐는 느낌임 우선 어떤 기준으로도 **GLM5.2**가 Opus만큼 좋지는 않음 둘째, 오픈소스 모델이 결국 마진 압박을 줄 것은 맞고 모두가 알고 있음. 하지만 오늘의 AI 사업모델이 내일도 같을 거라고 보는 건가? - GLM-5.2는 Opus만큼 좋은 게 아니라 더 나음. GLM-5.2를 탈억제해서 Opus가 거부하는 프로젝트에 투입할 수 있음 - 무엇을 하느냐에 따라 다름. 복잡한 작업이나 정의가 부실한 작업이라면 Opus가 맞겠지만, 비교적 단순하거나 아주 잘 정의된 작업에서는 **GLM-5.2**도 똑같이 좋고 보통 훨씬 빠름 성격도 더 중립적이고 Opus보다 덜 대립적임. Opus는 늘 “거기에 반론을 제기하자면...” 하는 느낌인 반면 GLM은 “네, 알겠습니다!”에 가까움. 둘 다 쓰고 둘 다 좋게 보지만, Opus가 내일 사라져도 울지는 않을 것임. GLM-5.2만으로도 금방 적응할 수 있음 - GLM 5.2의 웹 검색 능력이 나쁘다는 얘기가 있지만, 그건 **하네스 책임**이라고 봄 VPS에 SearXNG 인스턴스를 직접 띄우고 webfetch 도구와 함께 Pi에 통합했는데, GLM 5.2는 지금까지 물건을 잘 찾아줬음. 공격적인 광고 오버레이 때문에 파싱이 어려운 오스트리아 온라인 신문의 최신 뉴스를 요청했더니, ChatGPT와 Claude의 기본 채팅 앱은 둘 다 실패했음. Pi 안의 GLM 5.2는 RSS 피드를 검색할 만큼 영리했고 자세한 개요를 줬음 비전이 없는 건 정말 아쉬움. Pi에 우회책을 구현해뒀고 그럭저럭 괜찮지만, 그렇게 좋지는 않고 전체 경험이 어색함 - 출력 토큰 중심으로만 보는 꽤 무의미한 글처럼 보임 에이전트 코딩에서는 **캐시된 입력 토큰**이 API “비용”의 90%임. GPU 연산이 필요 없고, DeepSeek는 MLA/CSA/HCA와 많은 디스크로 50~100배 싸게 처리할 수 있음을 보여줬음. 이게 마진을 무너뜨릴 것임 - 미국 AI 연구소들은 에이전트 코딩 말고 다른 시장을 찾으려고 필사적으로 애쓰는 것 아닌가? - MLA/CSA/HCA는 모두 **손실 압축** 기법 아닌가? 컨텍스트 크기가 커질수록 품질 저하를 불평하는 이유 중 하나도 그 때문 아닌지 궁금함 - [https://lobste.rs/s/ua1gxl/glm_5_2_coming_ai_margin_collapse]()의 현재 최상위 댓글은 캐시된 입력 토큰을 정확히 짚었지만 반대 결론에 도달했음 “월 100달러 요금으로 API 사용량 3600달러 상당을 받는다. 이는 Anthropic이 모델 라우팅과 입력 캐싱에서 영리한 방법을 찾아냈고, 투자자 돈으로 보조하며 운영 마진 손실도 감수할 수 있기 때문일 것이다”라는 내용임 내 해석은 이게 바로 Anthropic이 모두가 믿기를 원하는 그림이라는 것임. 실제로는 그 3600달러의 90%가 캐시된 입력 토큰이고, DeepSeek가 보여준 것처럼 거의 공짜에 가깝게 만들 수 있음