2026년 7월 오픈소스 AI 현황

 (stateofopensource.ai)
2P by GN⁺ | ★ favorite | 댓글 2개
  • 오픈 웨이트 모델은 코딩·지시 이행·일반 지식에서 폐쇄형과 비슷한 수준에 도달했고, 추론 비용도 36개월간 50배 하락하면서 경쟁의 중심이 모델 자체에서 에이전트 하네스로 이동함
  • 2026년 중반 OpenRouter에서 오픈 웨이트가 토큰 처리량의 과반을 차지하고 상위 5개 모델도 모두 오픈이지만, 추론·긴 문맥 검색·에이전트 작업에서는 폐쇄형과 평균 3.3%의 역량 격차가 남아 있음
  • AI 기능을 추가하는 개발자의 79%가 오픈 모델을 쓰지만 프로덕션 도달률은 51%로 폐쇄형의 63%보다 낮아, 표준화·배포 도구·운영 신뢰가 핵심 병목으로 남음
  • Databricks·Mistral AI·DeepSeek를 비롯한 생태계가 대규모 매출과 투자를 확보했고, 자체 호스팅은 토큰 종량제 비용을 고정비로 전환하지만 모델 가격이 낮아지면서 수익은 플랫폼·하네스 등 상위 계층으로 이동함
  • 다음 경쟁은 하네스·메모리·쓰기 권한·거버넌스를 누가 소유하느냐에 달려 있으며, 개방성을 유지하려면 중립적 하네스와 이식 가능한 권한 표준을 구축하고 특정 모델·공급자·국가에 대한 의존을 피해야 함

빌려 쓰지 않고 소유하는 AI

  • 개방형 AI는 시장성이 작은 언어, 현장형 오프라인 서비스, 자체 하드웨어, 공공 인프라처럼 폐쇄형 API로 빌리기 어려운 영역에서 사용자가 모델과 데이터를 직접 소유하게 함
    • 뉴질랜드 북부의 Māori 방송사는 데이터가 공동체에 남는 라이선스로 te reo 음성 모델을 훈련함
    • PwC는 금융 언어로 오픈 모델을 미세조정해 자체 하드웨어에서 수백 곳의 고객을 대상으로 운영하며 토큰당 요금을 내지 않음
    • Lausanne 연구진은 Red Cross와 인도주의 지침에 맞춘 오픈 의료 모델을 만들고 자국과 Tanzania에서 임상시험을 준비함
    • East Africa 농민은 클라우드가 닿지 않는 밭에서 휴대전화로 오프라인 카사바 질병 진단 모델을 실행함
    • Switzerland 공공 컨소시엄은 공공 슈퍼컴퓨터로 국가 모델을 훈련하고 웨이트·데이터·훈련 코드를 모두 공개함
  • Mozilla가 한 기업의 웹 관문 독점을 막기 위해 등장했던 것처럼, AI에서도 경쟁·상호운용성·공급자를 떠날 자유가 필요함
  • 목표는 하나의 모델을 선택하는 데 있지 않고, 여러 모델을 표준 방식으로 연결해 언제든 공급자를 바꿀 수 있는 구조를 만드는 데 있음

오픈 웨이트의 역량과 사용량

  • Chatbot Arena에서 오픈과 폐쇄형 모델의 격차는 2024년 1월 이후 8.04%에서 0.5%까지 축소됐다가 2026년 3월 3.3%로 다시 벌어짐
    • 2024년 8월에는 0.5%까지 좁혀졌고, 2025년 2월 DeepSeek-R1이 잠시 미국 최상위 모델과 동률을 이룸
    • 폐쇄형 추론 모델이 앞서면서 평균 격차가 다시 커졌지만, 오픈 모델은 코딩·지시 이행·일반 지식에서 동급 또는 근접함
    • 남은 격차는 추론·긴 문맥 검색·에이전트 작업에 집중됨
  • GPT-4급 모델의 100만 토큰당 추론 가격은 36개월 동안 20달러에서 0.40달러로 50배 하락함
    • Stanford HAI는 GPT-3.5급 가격이 18개월간 280배 하락했다고 집계함
    • Epoch AI는 연간 9~900배, 2025년 11월 MIT 연구는 하드웨어 효과를 조정한 최전선 가격이 연간 5~10배 떨어진다고 추산함
  • OpenRouter에서 오픈 웨이트의 토큰 비중은 미미한 수준에서 2025년 말 약 3분의 1, 2026년 중반 과반으로 늘어남
    • 이는 토큰 처리량 기준 우위이며 요청 건수에서는 미국 폐쇄형 공급자가 여전히 앞섬
    • 오픈 모델 사용량은 코딩과 에이전트 워크로드에 집중됨
  • 최근 한 달간 OpenRouter 처리량 상위 5개 모델은 모두 오픈 웨이트임
    • DeepSeek V4 Flash 18.4T, Xiaomi MiMo-V2.5 14.9T, Tencent Hy3 preview 14.8T, MiniMax M3 14.3T, 출처 미공개 Owl Alpha 11T 순임
    • Anthropic Claude Opus 4.7 9.02T, DeepSeek V4 Pro 8.55T, Claude Sonnet 4.6 7.33T, Claude Opus 4.8 6.18T, DeepSeek V3.2 4.31T가 뒤를 이음
  • 2026년 중반 상위 9개 모델의 주간 토큰 처리량은 중국산 약 18T, 미국산 약 5.5T로 3대 1 이상이며, 비용을 기준으로 라우팅하는 개발자는 오픈 웨이트를 선택하는 경향을 보임

높은 도입률과 낮은 프로덕션 전환율

  • Mozilla·SlashData 2026 개발자 조사에서 AI 기능을 추가하는 개발자의 79%가 오픈 모델, 71%가 폐쇄형 모델을 사용함
    • 29%는 오픈 모델만, 21%는 폐쇄형 모델만 사용함
    • 절반인 50%는 두 유형을 함께 사용하므로 대부분의 팀에서 둘은 완전한 대체재가 아님
  • 오픈 모델 도입률은 Greater China와 East Asia가 각각 89%로 가장 높고 Western Europe 70%, South America 66% 순임
    • 폐쇄형 도입률이 오픈보다 높은 지역은 Western Europe과 South America뿐임
  • 프로덕션 도달률은 오픈 모델 팀 51%, 폐쇄형 모델 팀 63%로 차이가 남
    • 소규모 기업에서는 폐쇄형 54%, 오픈 53%임
    • 중견기업에서는 각각 66%, 55%, 직원 1,001명 이상 기업에서는 73%, 57%임
    • 조직 규모가 커질수록 폐쇄형 배포율은 54%에서 73%로 오르지만 오픈은 53%에서 57%로 거의 움직이지 않아, 기업 자원만으로는 오픈 배포 병목이 해소되지 않음
  • 오픈 모델을 중단한 개발자와 계속 쓰는 개발자 사이의 가장 큰 차이는 모델 성능 부족 +12%p, 기존 시스템 통합 +11%p, 유지보수·업데이트 +10%p임
    • 문서 부족, 배포·호스팅·확장, 모델 평가·비교는 각각 +8%p임
    • 미세조정·맞춤화는 +4%p이고 인프라 비용과 보안·개인정보·규제 준수에는 차이가 없으며, 전문 지원 부족은 -2%p임
    • 중단을 가르는 요인은 순수 모델 역량보다 통합·운영·유지보수에 집중됨
  • 현재 또는 과거 오픈 모델 개발자 1,410명을 지역별로 분석하면 전체 장애물은 인프라·컴퓨팅 비용 27%, 보안·개인정보·규제 준수 26%, 유지보수 24%, 배포·호스팅·확장 23%, 전문 지원 부족 22% 순임
    • South Asia는 보안·규제 준수 39%와 전문 지원 31%가 특히 높음
    • 중대한 문제가 없다는 응답이 15%를 넘은 곳은 North America 21%와 Greater China 16%뿐임
    • Oceania 표본 39명과 Eastern Europe·CIS 표본 98명은 신뢰 가능한 기준보다 작음

오픈 AI 스택의 운영 격차

  • Mozilla의 2026년 6월 스택 지도는 9개 계층·48개 구성 요소·1,361개 프로젝트를 10개 성숙도 기준으로 1~5점 평가함
  • 역량 자체는 높지만 거의 모든 계층과 구성 요소에서 표준화와 기업 운영 준비도가 가장 낮게 나타남
  • 오픈 스택의 공통 병목은 모델 품질이 아니라 표준화와 기업 운영 준비도이며, 배포·통합·지원·거버넌스 도구가 완성되지 않은 상태임

오픈소스 AI의 사업성과 비용 구조

  • 오픈 웨이트 AI는 수천억 달러 규모의 상업 시장으로 성장했으며, 검증된 수익 모델은 호스팅 추론·기업 플랫폼·온프레미스 라이선스·미세조정 서비스·하네스 도구 다섯 가지임
  • 주요 기업은 투자·매출·상장 단계로 확장함
    • Databricks는 연 환산 매출 54억 달러를 넘겼으며 상장 전 단계임
    • DeepSeek는 약 2억2,000만 달러의 연간 반복 매출(ARR), 공개 투자금 74억 달러, 500억 달러 이상의 가치평가를 기록함
    • Mistral AI는 12개월간 20배 성장해 약 4억 달러 ARR에 도달했고 공개 투자금은 30억5,000만 달러, 가치평가는 약 140억 달러이며 200억 유로 수준의 투자 협상도 진행함
    • Moonshot AI는 39억 달러, Reflection AI와 Cerebras는 각각 약 21억 달러, Cohere는 17억 달러, Together AI는 13억3,400만 달러를 조달함
    • Baseten 5억8,500만 달러, Black Forest Labs 4억5,000만 달러, Hugging Face 4억 달러, Modular 3억8,000만 달러, Fireworks AI 3억2,700만 달러, Anyscale 2억8,100만 달러, LangChain 2억6,000만 달러, Stability AI 2억3,000만 달러의 공개 투자금을 확보함
    • Zhipu AI와 MiniMax는 공개 투자 총액을 밝히지 않았으며 2026년 Hong Kong IPO를 통해 상장함
    • Nvidia, Salesforce, AMD, Google, IBM, ASML, Tencent, CATL, Schwarz Group도 모델·추론·도구 계층의 기업을 지원함
  • Cohere는 기업·온프레미스 사업을 운영하며 2026년 5월 Command A+를 오픈소스로 공개했고, LangChain은 GitHub 스타 126,000개 이상과 개발자 점유율 60%를 기록함
  • 대규모 사용에서는 폐쇄형 모델의 토큰 종량제가 예산 문제로 이어짐
    • Microsoft는 토큰 요금이 연간 AI 예산을 몇 달 만에 소진하자 2026년 6월 30일까지 Claude Code 라이선스 대부분을 취소하고, 무거운 Copilot 워크로드를 위한 보안형 Azure 호스팅 DeepSeek V4를 검토함
    • Uber는 2026년 AI 코딩 예산을 4개월 만에 모두 소진한 뒤 도구별·직원별 월 지출을 1,500달러로 제한함
    • Stripe는 vLLM에서 오픈 모델을 서비스해 하루 5,000만 API 호출을 기존 GPU 수의 3분의 1로 처리하고 추론 비용을 73% 줄임
    • 오픈 웨이트 자체 호스팅은 공급자가 통제하는 변동 운영비를 기업이 소유하는 고정비로 바꿈
  • 2025년 5~9월 OpenRouter에서 오픈 모델은 사용량 약 20%를 차지했지만 모델 계층 매출은 약 4%만 가져감
    • 비슷한 역량에서 폐쇄형 모델의 호출당 가격은 약 6배 높았음
    • Linux Foundation의 Nagle–Yue 연구는 이 가격 차이로 실현되지 않은 연간 절감 가능액을 약 248억 달러로 추산함
    • 오픈 모델 사용량이 늘어도 모델 계층이 상품화되면 수익은 플랫폼·하네스 같은 상위 계층에 축적됨

국가 주권과 공급자 이탈 가능성

  • 70개가 넘는 국가 AI 전략이 시행되면서 정책의 초점은 국가 전략 보유 여부에서 스택 중 어느 계층을 소유할 수 있는가로 이동함
  • 2026년 6월 Claude Fable 5 출시 사흘 뒤 한 정부의 수출 명령으로 Anthropic이 전 세계 외국 국적자의 접근을 차단한 사례는 공급자 통제의 범위를 드러냄
    • 선택적 준수가 불가능해 금요일 오후 5시 21분 모든 대상자의 모델이 중단됐고, 해당 모델에 의존하던 사용자는 사전 경고 없이 영향을 받음
    • 공급자는 호스팅 모델을 끌 수 있지만 사용자가 보유한 장비에서 실행 중인 웨이트 사본은 원격으로 끌 수 없음
    • 기업에는 디스크에 저장한 웨이트가 위험 회피 수단이고, 국가에는 독립 정책과 외부 허가의 차이를 만듦
  • 클라우드 시대의 공급자 종속은 이미 높은 이탈 비용을 보여줌
    • AWS S3에서 1PB를 반출하는 비용은 9만~12만 달러임
    • 기업의 80%가 워크로드를 자체 환경으로 되돌리고 있음
    • 37signals는 클라우드를 떠나 연간 비용을 320만 달러에서 100만 달러 미만으로 낮춤
    • GEICO의 클라우드 비용은 계획보다 2.5배 높았음
    • 독점 API에 구축한 시스템도 가격 변경을 그대로 받아들이며 깨끗하게 이탈하기 어려우므로, 오픈 웨이트는 공급자를 떠날 권리를 제공함
  • 2026년 3월 Hugging Face 누적 다운로드는 Alibaba Qwen 942M, Meta Llama 476M으로 중국이 가장 큰 오픈 웨이트 공급원이 됨
    • 2026년 2월 Qwen은 그다음 8개 조직을 합친 것보다 많이 다운로드됨
    • 중국 오픈 웨이트 모델의 OpenRouter 토큰 비중은 2024년 말 2% 미만에서 2026년 4월 주간 트래픽 45% 이상으로 증가했고, 사용량 상위 10개 모델에서는 약 61%를 차지함
    • DeepSeek는 26,000개 이상의 기업 계정을 보유하고 2025년 신생 AI 스타트업의 58%가 스택에 포함했지만, 최소 8개 관할권은 호스팅 서비스를 제한함
    • 기업은 호스팅 앱을 금지하면서도 웨이트를 자체 호스팅하거나 서구권 엔드포인트를 통해 사용하는 방식으로 두 결정을 병행함
  • 중국의 오픈소스 확산은 2025년 8월 State Council의 AI Plus Initiative와 2026년 3월 국가 Five-Year Plan에 포함된 정책임
    • 공개 웨이트는 반도체 수출 통제에 대응하면서 전 세계 사용자의 로컬 하드웨어로 추론 부담을 분산하는 역할도 함
    • Global South에서는 미국 기술 독점에서 벗어나 공급자를 다변화하려는 수요가 있고, 다른 지역에서는 비용이 주요 동기임

새로운 경쟁 계층이 된 에이전트 하네스

  • 브라우저가 사용자를 대신해 서버와 협상한 오픈 웹의 사용자 에이전트였듯, 모델 위의 에이전트 하네스가 오케스트레이션·도구·메모리·샌드박스·권한을 담당함
  • 하네스 스택은 모델에서 사용자와 거버넌스까지 여러 계층으로 구성됨
    • 제어 계층: LangGraph, CrewAI, AutoGen, LlamaIndex가 추론과 행동의 반복 루프로 모델을 에이전트로 전환함
    • 연결 계층: MCP가 도구와 문맥, A2A가 에이전트 간 통신, Mem0·Letta·Zep이 메모리를 담당함
    • 행동 계층: E2B·Daytona·Modal이 샌드박스와 실행을 제공하고, 권한·신원은 아직 해결되지 않은 쓰기 영역으로 남음
    • 평가·관측 계층: Langfuse와 Phoenix가 실행 결과와 동작을 추적함
    • 사용자·결제 계층: AG-UI·A2UI가 인터페이스를, x402·AP2·UCP가 결제와 계량을 담당함
    • 거버넌스 계층: Meta-harness, Omnigent, OPA, Agent governance toolkit이 여러 하네스의 상태 기반 정책·레지스트리·계보·예산·취소를 통합함
  • MCP는 첫해에 월간 SDK 다운로드 97M과 활성 서버 10,000개 이상에 도달하고 16개월간 4,750% 성장했으며, 2025년 12월 Linux Foundation의 Agentic AI Foundation에 기부됨
    • 기업 중 성숙한 에이전트 거버넌스를 갖춘 비율은 약 21% 에 그쳐 도입 속도가 통제 체계보다 빠름

  • 모델과 하네스의 수직 통합

    • Terminal-Bench 2.0에서 2026년 5월 제3자 하네스는 같은 Anthropic 웨이트로 79.8%를 기록해 Claude Code의 58.0%를 21.8%p 앞섬
    • 8주 뒤 Terminal-Bench 2.1에서는 연구소가 하네스를 내부화하면서 순위가 역전됨
    • Codex CLI와 GPT-5.5 조합은 83.4%, Claude Code와 Claude 5 Fable 조합은 83.1%를 기록함
    • 같은 Fable 5를 사용한 최상위 독립 하네스는 80.4%로, 최상단 격차가 약 3%p로 줄어듦
    • 비교 가능한 모든 모델에서 연구소 소유 하네스가 독립 하네스를 앞섬
    • 모델과 하네스를 함께 최적화하면 성능은 오르지만 다른 모델로 교체할 때 성능이 낮아져 최적화의 부산물로 종속이 생김
    • 오픈 모델에는 이에 대응할 일차 하네스가 없어 Terminal-Bench 2.1 공식 검증 최상위권에 등장하지 않음
    • 중립 하네스에서 비교하면 Claude Opus 4.8은 작업당 2.41달러에 71.9%, Opus 4.7은 1.98달러에 68.5%, 오픈 모델 GLM 5.2는 0.43달러에 67.8%를 기록함
    • 오픈 모델은 Opus 4.7보다 근소하게 낮고 Opus 4.8보다 약 4%p 뒤지지만 비용은 약 5분의 1임
    • 연구소 소유 하네스에서 발생한 실사용 데이터는 다음 모델로 돌아가는 데이터 플라이휠을 만들며, 자체 스택이 하네스를 소유하면 같은 데이터를 직접 보유할 수 있음

  • 해결되지 않은 쓰기 권한

    • 읽기는 문서 조회·데이터베이스 질의·일정 목록처럼 되돌릴 수 있고 결과가 비교적 작아 기본 허용이 가능함
    • 쓰기는 메시지 전송·예산 집행·레코드 수정·거래 실행처럼 비용이 크거나 되돌릴 수 없어 확인·승인 임계값·비용 한도·취소 기능이 집중돼야 함
    • 약 12개 프레임워크, 10개 하네스, 3개 피어 프로토콜이 존재하지만 MCP 호스트·A2A 피어·직접 도구 호출·프레임워크 경계를 아우르는 이식 가능한 쓰기 권한 모델은 없음
    • MCP 2025-11-25 명세는 인증을 OAuth 2.1로 옮겼고 A2A v1.0은 서명된 Agent Card를 표준화했지만, 둘 다 신원 인증에서 멈춤
    • 신원을 확인해도 에이전트가 무엇을 실행할 수 있는지는 결정되지 않음
    • CoSAI의 MCP 위협 모델은 사용자가 대부분의 승인 요청을 무심코 허용하는 동의 피로를 최상위 위협으로 분류함
    • Databricks의 오픈소스 Omnigent 같은 메타 하네스는 개별 에이전트의 프롬프트 필터 대신 세션 상태를 추적하고 다음 쓰기를 통제함
    • 검증되지 않은 패키지를 내려받은 뒤 코드 푸시를 시도하면 사람의 승인을 요구할 수 있음
    • 설정된 금액을 지출하면 세션을 일시 중지하는 비용 상한도 적용 가능함
    • 여러 하네스 위에서 쓰기 영역을 통제하는 계층이 지속 가능한 권한 모델의 형성 지점임

  • 보안과 폐쇄형 모델의 남은 우위

    • 필터링·모니터링·취소는 웨이트 비공개가 아니라 서비스 및 하네스 계층의 기능이며 자체 호스팅 오픈 모델에도 적용할 수 있음
    • 2025년 Anthropic, Microsoft, ServiceNow, Salesforce의 폐쇄형 시스템에서도 CVSS 9.3~9.4 권한 취약점이 발생함
    • NTIA는 미국 정부가 오픈 웨이트를 제한할지 검토한 뒤 제한보다 모니터링을 권고함
    • 폐쇄형 시스템은 네 영역에서 여전히 앞섬
      • 통합 하네스와 그 뒤의 데이터 플라이휠
      • 100만 토큰 긴 문맥 검색에서 Gemini 3의 다중 바늘 검색 89%와 DeepSeek V4-Pro의 41% 사이 격차
      • SOC 2, HIPAA, 데이터 미보존을 기본 제공하는 즉시 사용 가능한 규제 준수
      • 고객이 책임을 물을 수 있는 계약 상대방
    • 규제 준수와 책임은 계약 문제, 통합 하네스는 도구 문제, 긴 문맥 충실도는 오픈 연구소가 직접 해결해야 하는 모델 문제임

개방성을 유지하기 위한 다섯 가지 투자

  • 오픈 하네스 구축: Codex와 GPT-5.5처럼 오픈 웨이트와 공동 설계된 범용 또는 산업별 하네스를 만들어야 함
    • 폐쇄형 연구소가 모델과 하네스를 하나의 임대 제품으로 완전히 결합하기 전이 구축 가능 시기임
  • 메모리 소유: 웨이트 가격이 0에 가까워질수록 모델은 교체 가능한 부품이 되고 누적 문맥을 가진 메모리가 복리로 성장하는 자산이 됨
    • 자체 방화벽 뒤에서 이식 가능하고 추가만 가능한 형식으로 저장해야 하며, 접근이 끝난 뒤에는 수년간의 문맥을 복원할 수 없음
  • 이식 가능한 권한 해결: MCP·A2A·직접 도구 호출·프레임워크 경계 전체에서 무인 허용·사람 승인·금지 쓰기를 구분하는 표준이 필요함
    • 메타 하네스의 상태 기반 쓰기 정책이 형성되는 동안 개방형 표준이 나오지 않으면 폐쇄형 플랫폼이 규칙을 정하게 됨
  • 종량제 탈피: 폐쇄형과 오픈 모델을 직접 비교하고, 개방형 인터페이스 뒤에 두 번째 모델을 대기시키며, 부하가 예측 가능한 곳은 자체 호스팅해야 함
    • 공급자 상장과 할인 소진 이후인 2027~2028년경 초기 가격이 끝날 것으로 예상하며, 전환이 쉽고 저렴할 때 이중 공급원을 마련해야 함
  • 복수 공급자를 기본값으로 설정: 하나의 오픈 공급자에 생태계가 집중되면 공동 자원으로 보기 어려움
    • 47개국이 해외 데이터 처리를 제한하고 70개 이상의 국가 전략이 시행 중임
    • Europe은 EUROPA에 투자하고 Canada는 8억9,000만 달러를 마련했으며 India는 GPU 38,231개를 지정함
    • 공공 자금이 장기 개발을 지탱하지 못하면 오픈 생태계도 단일 출처로 수렴할 수 있음

계속 확인해야 할 신호

  • 역량과 도입: 3.3% 역량 격차, 코딩 동률 여부, 추론·에이전트 격차, OpenRouter의 에이전트 코딩 토큰 비중을 추적해야 함
    • 오픈 토큰 비중이 정체되고 추론 격차가 커지면 현재 흐름이 역전됨
  • 하네스: 연구소 소유 하네스와 독립 하네스의 Terminal-Bench 격차, AAIF 아래 MCP·A2A 거버넌스, 아직 없는 이식 가능 권한 명세가 핵심임
    • 연구소 하네스의 우위가 커지거나 폐쇄형 플랫폼이 권한 표준을 먼저 정하면 개방형 계층이 약화됨
  • 시장 구조: 오픈 연구소의 ARR·투자·Zhipu와 MiniMax IPO, 2027~2028년 종량제 가격 변곡점, 국가 주권형 컴퓨팅 투자를 함께 봐야 함
    • 국가 자금이 끊기거나 오픈 연구소의 경제성이 규모화되지 못하면 지속 가능한 시장 형성이 어려워짐
  • 신뢰와 안전: 오픈 웨이트의 오용 역량, 안전 미세조정 제거 용이성, 합성 CSAM과 비동의 친밀 이미지(NCII), NTIA의 제한 대신 모니터링 방침을 추적해야 함
    • 중대한 오용 사건이나 정책의 제한 중심 전환은 개방형 배포 환경을 바꿀 수 있음
  • AI 의사결정 과정에서 개방성·이식성·폭넓은 배포를 담당하는 주체가 동등한 지위를 얻을 때, 시장은 모델을 빌리는 구조에서 직접 소유하는 구조로 이동하게 됨

함께 보면 좋은 글 β

shakespeares   [-]

다시 루프엔지니어링으로 옮겨가던데요.

답변달기
GN⁺   [-]
Hacker News 의견들

  • 공개 모델이 Anthropic과 OpenAI를 무너뜨릴 수도 있음. 초대형 클라우드 사업자는 라이선스 비용 없이 모델을 운영할 수 있고, Apple은 모델을 축소해 기기에서 직접 실행할 수 있음
    최첨단 모델은 경쟁력이면서 동시에 부채임. 훈련비가 천문학적이지만 개발을 멈추면 모델이 잊히고, 각 모델이 유의미하게 다르다는 믿음에 마케팅을 의존하게 됨. 이제 모델끼리 큰 차이가 있는지 의문이며, 무작위적이고 환각을 일으키는 모델을 결정론적이고 유용하게 만드는 핵심은 실행 프레임워크라고 봄

    • 그럴듯한 결말이지만, 중국 기업의 공개 가중치 모델은 원칙적 선택이라기보다 서구 시장 접근의 불리함을 극복하기 위한 전술에 가까워 보임
      시장 여건이 바뀌면 Meta처럼 다시 폐쇄할 수 있고, 훈련비가 계속 증가한다면 공개 가중치 전략이 재정적으로 지속 가능한지도 의문임
    • 공개 모델도 상대적으로 작을 뿐 훈련비가 천문학적일 가능성이 큼. 더 적은 연산으로 더 많은 성능을 내야 할 유인이 강하고, 최첨단 모델의 증류를 이용해 효율을 높일 수는 있음
      그래도 대규모 조직이 막대한 자금과 연산 자원을 투입하면서 수익을 포기해야 하며, 이런 관대함이 영원히 이어지기는 어려움. 최첨단 모델의 사업 모델과 빠른 추격자들의 무상 투자 중 어느 쪽이 먼저 무너질지가 관건임
    • 모든 모델의 토큰 비용 대비 투자수익률이 의심스럽지만, 이미 지출한 비용은 매몰비용임
      자기 개선형 초지능을 달성하지 못하면 실패하는 구도처럼 보임. 초지능을 달성하면 최첨단 모델이 더 빠른 지수 성장으로 앞서가겠지만, 그렇지 않으면 빠른 추격자들이 막대한 투자를 압도하고 방어력도 사라짐. 반도체에서 Moore의 법칙을 탄 실리콘을 GaAs가 따라잡지 못했던 상황과 비슷하며, 저작권을 강제하기도 어려움
    • 당분간 하드웨어 비용 때문에 오픈소스 모델은 실용적이지 않을 것으로 예상함. 취미 개발자와 열성 사용자는 계속 활용하겠지만, 하드웨어에 접근할 수 있는 최첨단 모델 기업들이 시장을 거의 완전히 지배할 가능성이 큼
    • 최첨단 모델의 훈련비가 정말 천문학적인지는 의문임. GLM 5.2는 약 30조 개 토큰, 즉 약 (10^{25}) FLOPs로 훈련됐음
      B300을 시간당 5달러라는 높은 가격에 쓰고 MFU를 50%로 잡아도 약 1,500만 달러임. 훈련 실패 위험과 후속 훈련 비용 등이 있지만, 이후 추론에 드는 지출과 비교하면 그렇게 터무니없는 규모는 아님

  • 정확히 4개월 전 OpenRouter 시장 점유율은 폐쇄형 모델 60%, 공개 모델 40%였지만 지금은 공개 모델이 63% 로 역전했음. 3월 19일 공개 모델의 총처리량은 8,880억 토큰이었고, 어제는 4.19조 토큰으로 약 4개월 만에 5배 성장함
    OpenRouter 데이터 기반으로 매일 갱신되는 대시보드도 만들었음: https://dirac.run/labs-market-share

    • OpenRouter만으로 전체 시장을 파악하기는 어려움. OpenAI, Anthropic, Google 모델 사용자는 각 회사의 API를 직접 이용할 가능성이 높아 해당 통계에 포함되지 않음
      그래도 OpenRouter에서 공개 모델 사용량이 성장하는 모습은 매우 흥미로움
    • 모델별 통계와 함께 성능 및 비용 분류도 보고 싶었는데, 이미 제공하는 곳이 있음: https://artificialanalysis.ai/
    • 흥미로운 수치지만, 점점 더 많은 사용량이 구독 상품으로 이동해 이 지표에는 잡히지 않는다고 봄. 개인 용도와 회사 용도 모두 실제로 그렇게 전환했음
    • Claude를 쓰면서 굳이 OpenRouter를 이용할 이유는 모르겠음
    • 훗날 돌아보면 이 수치가 폐쇄형 모델 몰락의 초기 신호 중 하나로 여겨질 것 같음
      반대한다면 이 회사들에 어떤 방어력이 있는지 알고 싶음. OpenAI와 Anthropic의 막대한 지출을 보면서도 실질적인 방어력을 전혀 찾지 못해 답답함

  • 물론 이 글은 LLM이 생성한 문체임: https://www.pangram.com/history/29a71663-e6b2-4db6-87bd-b943...
    임원들이 왜 이런 글에 자기 이름을 거는지 궁금함. 비서가 쓴 원고나 홍보팀의 보도자료에 서명하던 관행의 자연스러운 연장선으로 느끼는 것일 수도 있음
    HN이 텍스트 중심 글, 적어도 첫 화면에 오른 글에는 Pangram을 자동 실행하면 커뮤니티 문화에 도움이 될 것 같음. 개인적으로 브라우저 플러그인을 쓰지만, 댓글을 보면 AI 생성 여부를 알아채지 못한 사람도 있어 보임

    • 비용이 걱정된다면 일정 추천 수를 넘겼거나 첫 화면에 오른 글에만 Pangram을 자동 실행해도 좋겠음
      독자가 각자 간헐적으로 검사하기보다 콘텐츠 수집 사이트가 AI 검사를 자동화하는 편이 나음. 최근 Manifund에도 Pangram 자동 검사를 구현했고, LessWrong은 한동안 이 기능을 사용해 온 것으로 앎
    • 사이트에 큰 도움이 되겠지만 Pangram은 부정확하기로 악명 높음

  • 이 발표 자료는 읽기 고통스러움. 주변 글과 거의 연결되지 않는 차트가 너무 많고, LLM이 상상한 CTO 발표 자료처럼 보임. 그래도 CTO 슬라이드처럼 생겼으니 ‘HIGH IMPACT’라고 여기는 듯함
    Mozilla CTO가 자신의 분석을 직접 명확하게 풀어냈다면 훨씬 나았을 것임

  • 공개 모델 확산을 대체로 지지해서 진지하게 받아들이고 싶지만, AI가 쓴 티가 너무 명확해 어려움. 이런 글을 쓰던 인력을 해고한 모양임
    단순히 조롱하려는 게 아니라, 쉽게 알아챌 수 있는 AI 문체가 독자의 일부를 즉시 이탈시켜 오히려 글의 논지를 훼손하고 역효과를 낸다고 봄

    • “Parity reached. The contest is one layer up.”이라는 문구를 읽으니 토할 것 같음
    • AI 문체에 질려서인지 이런 글은 진정성이 없어 보임

  • “한 기업이 웹의 정문을 독점하려 했고, 공개 커뮤니티가 이를 막기 위해 일어섰기에 Mozilla가 존재한다”지만, 현재 Firefox 점유율을 보면 웹의 정문은 사실상 Google과 Apple이 소유하고 있음
    소수의 공개 모델이 나머지 생태계의 일탈을 견제하는 미래만으로도 충분할 수 있지만, 이 글이 그런 논리를 펼치는 것 같지는 않음

    • 지나치게 유리한 부분만 골라낸 서사임. 한 기업이 웹의 정문을 장악했고, 다른 기업이 시장 지위를 남용해 무료 브라우저를 밀어붙였으며, Mozilla는 첫 번째 기업의 잿더미에서 부활했음
      이후 또 다른 기업이 시장 지위를 이용해 무료 브라우저를 확산시켜 Firefox의 점유율을 무너뜨렸지만, 독점처럼 보이지 않도록 Mozilla에 계속 돈을 지급하고 있음
    • Mozilla가 존속하는 실질적인 이유는 Google이 자사를 기본 검색 엔진으로 유지하는 대가로 수십억 달러를 지급하기 때문임

  • Mozilla가 최신 유행을 따라잡기 위해 온갖 일을 하면서도, 개발자와 고급 사용자를 위한 제대로 된 개인정보 보호 브라우저는 만들지 않는 모습이 인상적임

    • Firefox의 AI Chatbot 기능은 공개 모델 제공자로 Mistral 하나만 제안하고, 로컬 실행 선택지는 전혀 제공하지 않음. 말과 행동이 일치하지 않음
    • Mozilla는 지금 하던 일을 그대로 유지하면서 Firefox의 점유율을 데스크톱 5% 미만, 모바일 0% 수준에 묶어두는 대가로 매년 5억 달러를 받음
    • 그래도 해당 프로젝트들이 성장할 수 있도록 모든 소스 코드를 제공하며 Librefox, Iceweasel, Reynard 같은 자체 생태계도 형성돼 있음
    • 예전에는 나도 같은 생각이었지만, Firefox는 2026년에 꽤 진전했다고 느낌
      Mozilla의 AI 전략에도 공감하게 됐음. 모델을 직접 만들거나 저품질 AI 콘텐츠를 파는 대신 오픈소스 호환 계층을 구축하고 있어 접근 방식이 비현실적이지 않음
      AI가 수직적으로 종속되는 세상을 원하지 않으며, Mozilla가 오픈소스 AI에 과거의 전략을 정말 재현할 수 있다면 모두에게 이득이 될 것임
    • Firefox 자체는 범용 브라우저이며 폭넓은 시장에 다가가려면 그 편이 나을 수 있음. 다른 개발자들이 Firefox 엔진으로 고급 사용자용 브라우저를 만들고 있음
      최근에는 Zen을 아주 좋아하게 됐지만, 두 달 동안 사용하고도 고정 탭 기능은 여전히 조금 혼란스러움: https://zen-browser.app/

  • https://stateofopensource.ai/state-of-open-source-ai-2026.pd...의 PDF판이 더 읽기 편함

  • 원천 데이터와 훈련 방법론을 함께 공개해 자원만 있으면 실제로 재현할 수 있는 진정한 공개 모델을 둘러싼 커뮤니티가 전혀 보이지 않아 안타까움. ‘공개’라는 용어의 의미가 놀라울 만큼 희석되도록 방치했음

  • 디자인과 배치가 불필요하게 읽기 어렵지만, 추론 비용이 거의 50배 하락한 모습은 정말 놀라움. Kimi K3 공개를 보면 공개 모델이 이미 최첨단 수준에 가까워지고 있음
    오픈소스 AI는 Anthropic과 OpenAI가 예상했던 것보다 훨씬 빠르게 발전하는 중임

답변달기