지금은 Kimi K3의 시간

 (stephen.bochinski.dev)
1P by GN⁺ | ★ favorite | 댓글 1개
  • 일상적인 코딩 작업에서 Kimi K3와 Claude를 병행한 결과, 출력 품질과 답변에 필요한 토큰 수에서 실질적인 차이를 구별하기 어려웠음
  • Kimi K3 API는 100만 토큰당 입력 $3, 출력 $15로, 각각 $10와 $50인 Claude 최상위 모델보다 크게 저렴함
  • Kimi는 월 $19부터 시작하며 월 $39 코딩 티어도 넉넉한 반면, Claude는 에이전트 작업 중 사용량 한도가 빠르게 소진되고 월 $20 플랜에서 Fable 접근도 유지하지 못했음
  • Semgrep의 사이버 보안 벤치마크에서는 제한된 Claude가 일부 작업을 거부한 사이 GLM 5.2가 이를 수행해 앞섰으며, MIT 라이선스로 공개되고 최신 Opus보다 저렴함
  • 미국 모델에만 적용되는 제한은 미국 고객의 선택지를 줄일 뿐 해외 오픈 모델의 경쟁을 막지 못해, 품질은 비슷하고 가격은 낮은 Kimi K3를 두고 Claude를 계속 결제할 이유가 줄어듦

Kimi K3와 Claude의 품질·가격 비교

  • Kimi K3를 일반적인 코딩 업무에서 Claude와 함께 사용했을 때 동일한 작업과 출력 품질, 거의 같은 토큰 사용량을 보였음
    • 오픈 모델은 결과가 더 엉성하거나 같은 답을 얻기까지 더 많은 토큰을 쓸 것이라는 예상과 달랐음
  • API 가격은 Kimi K3가 입력 100만 토큰당 $3, 출력 100만 토큰당 $15임
    • Claude 최상위 모델은 같은 단위에서 각각 $10와 $50임
  • Kimi 유료 플랜은 월 $19부터 시작하며, 월 $39 코딩 티어는 비슷한 가격대의 Claude 상품보다 사용량이 넉넉함
    • Claude 플랜은 사용량 제한이 엄격해 평범한 에이전트 작업일에도 점심 전에 허용량을 소진할 수 있음
    • Claude는 월 $20 플랜에서 Fable 접근을 유지하지 못해 이를 끄고 Opus로 전환했지만, Kimi 티어에는 같은 조건이 없음

미국 AI 정책과 오픈 모델 경쟁

  • 미국 정부가 Fable 출시를 늦췄고 최종 모델에도 여러 작업 범주를 거부하는 제한이 적용된 반면, 중국 연구소의 프런티어급 오픈 모델은 내려받을 수 있어 미국 정부의 규제 범위를 벗어남
  • Semgrep의 사이버 보안 벤치마크에서는 GLM 5.2가 Claude를 앞섰음
    • 제한된 모델은 작업을 거부했지만 오픈 모델은 이를 수행했고, 이 차이가 결과에 영향을 줌
  • GLM 5.2는 MIT 라이선스로 출시됐으며, 스스로 프런티어 모델이라고 내세우지 않으면서도 실제 작업에서 최신 Opus보다 나은 결과를 내고 비용도 훨씬 낮음
  • OpenAI의 GPT-5.6도 정부 제한 절차를 거쳤지만, OpenAI는 주력 모델을 월 $20 플랜에 제공할 수 있어 Anthropic보다 여지가 있음
  • 향후 미국 정부가 자동차 산업에 사용했던 보조금·구제금융·보호관세 방식을 AI와 오픈소스에 적용할 수 있음
    • 민관 협력으로 미국 안에서만 사용되고 국제적으로 경쟁하지 못하는 국내 모델을 지원할 수 있음
    • 그 결과 미국 사용자는 최고 품질이나 최저 가격 대신 국내 모델을 구매해야 하고, 가장 좋은 모델을 가장 좋은 가격에 이용하지 못할 수 있음

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 증류로 동급 성능에 도달했든 처음부터 독자 개발했든, 미국 최전선 연구소의 결말은 애초에 정해져 있었음. 증류는 공격이 아니며, 최전선 연구소도 인류가 쓴 지식을 모델에 증류했으니 후발 연구소가 이를 더 저렴한 모델로 압축하는 건 자연스러운 수순임
    대화를 저장해 자체 모델 학습에 쓰는 일을 현실적으로 막을 방법도 없으므로 모델 회사보다 하드웨어 회사에 투자하는 편이 나아 보임

    • 그렇게 당연했다는 건 사후적 역사 수정에 가까움. 증류는 여전히 활발한 연구 분야이며, 지금처럼 쉽게 모델을 증류할 수 있다는 사실은 흥미로운 성과이지 12개월 전부터 당연시되던 결과가 아님
      불과 6개월 전만 해도 모델 출력을 학습 데이터로 쓰면 순환 학습 재앙으로 모든 모델이 실패할 거라는 전망이 많았으니, 처음부터 명백했던 것처럼 말해선 안 됨
    • 증류가 공격이 아니라는 전제에는 강하게 동의하지만, K3는 Fable이나 Sol의 증류판이 아님. Fable은 공개된 지 얼마 안 됐고 Sol은 막 출시됐으며, Arena 사용자 평가에서는 K3가 일부 영역에서 둘보다 뛰어남
      API 증류는 새로운 영역의 강화학습에서 콜드 스타트를 빠르게 넘기는 데나 유용하며, 실제로 더 중요한 건 모델이 학습하는 강화학습 환경의 품질과 다양성임
    • 증류 공격의 영향이 다소 과장된 듯함. 이제 미세조정 데이터 대부분은 합성 데이터이며, 같은 내용을 단순 반복할 수 없으므로 다른 LLM이 빠진 부분 없이 주제를 상세히 설명하는 교재를 작성하는 방식에 가까움
    • 거의 모든 시장은 ‘도둑질만 금지하고 나머지는 자유’부터 모든 조달에 엄청난 규제를 요구하는 방식까지 어떤 형태로든 규제에 의존함
      미국은 아직 중국의 희토류식 통제를 택하지 않았지만, 증류가 확산되면 이를 하지 않는 쪽도 접근 차단이나 과도한 통제 같은 규제 비용을 떠안게 될 가능성이 큼. 음악 복제에는 관대하다가 시각 예술에서 격분한 것처럼, 이를 절도와 통상적 사업 중 무엇으로 볼지는 결국 사회적 합의에 달렸으며 큰 돌파구가 없다면 격차는 좁혀질 것임
    • Anthropic은 과거 대화로 스크롤하거나 사고 토큰과 하위 에이전트를 확인하는 일조차 어렵게 만듦. 모두가 계속 자사 서비스로 돌아오게 하면서 스스로 우물을 파는 법은 배우지 못하게 하려는 셈임

  • 예상보다 훨씬 빨리 이 지점에 도달했음. 서방 정부가 오픈 가중치 최전선 모델 접근을 국가안보 위험으로 규정하고 사용을 테러 행위로 분류한다면 어떤 세상이 될지 궁금함
    Kimi K3가 불법임을 알면서도 누구나 쓰던 Napster처럼 되거나, 동네 누군가가 eBay 부품으로 만든 지하실의 8×5090 장비를 계량제로 빌려주는 대마초식 지하 시장이 생길 수도 있음. 반대로 통제가 성공하면 공개 선택지는 약화된 Cohere·Mistral뿐이고, 중국보다 뒤처지는 Anthropic·OpenAI의 ‘American Frontier’ 모델에 비싼 돈을 내야 할 수도 있음
    광고 보조금을 받던 Kindle Fire처럼, 최고 입찰자에게 영향력을 파는 Kindle AI가 등장해 담배 회사의 선전이 학습 파이프라인에 들어가고 LLM이 흡연은 건강하다고 말하는 상황도 가능함

    • 세계가 디지털 블록으로 나뉘는 새로운 철의 장막이 생기는 셈임. 교류 단절이 길어질수록 개방형 인터넷과 과학은 서로 호환되지 않는 생태계로 갈라질 가능성이 커짐
      미국 정부는 최근 NSF 과학 협력에 Wolf Amendment와 비슷한 제한을 선언하고 관할을 군사 쪽으로 옮겼으며, 중국을 배제하려는 Pax Silica에 여러 국가를 끌어들이는 동시에 동맹국에는 기능이 제한된 자국 제품을 강요하려 함. 미국·EU 사용자가 법적 불이익 없이 장막 너머를 이용할 수 있는 스위스나 싱가포르 같은 중립 지역이 남을 수도 있음
      https://nitter.net/RnaudBertrand/status/2069574934972797089
    • 고용량 RAM Mac Studio 장비가 사라진 건 아마 우연일 것임
    • 오픈소스 모델을 불법화하면 미국 기업만 불리해짐. 나머지 세계는 계속 오픈소스를 사용하며 미국 기업을 상대로 차익 기회를 얻게 됨
    • ‘서방 정부’가 구체적으로 미국을 뜻하는지 궁금함. 미국만큼 중국을 우려하지 않는 다른 국가들이 이 문제를 똑같이 걱정할 이유는 불분명함
    • 8×RTX Pro 6000도 VRAM이 768GB뿐인데 K3를 어떻게 구동할지 모르겠음

  • 평소 모든 모델로 시험하는 작업을 Kimi K3에 맡겼더니 훨씬 오래 고민했고, 19달러 요금제의 5시간 사용량을 거의 다 소진했음. 같은 작업을 OpenAI 20달러 요금제에서 수행하면 몇 분밖에 안 걸리고 사용량도 거의 줄지 않았음
    구독 한도는 토큰처럼 비교 가능한 수치를 제공하지 않아 측정하기 어렵지만, 사소한 작업 하나로 실제 업무를 할 사용량이 사라질 만큼 빡빡한 20달러대 구독은 처음이었음. 속도가 느리고 작업당 비용도 높아 보였지만, Gemini 3.5 Flash가 멋대로 만든 버그는 찾아냈음

    • Kimi는 계속 스스로를 의심하며 지나치게 오래 생각하는 경향이 있음. 작은 세부사항 하나를 두고 “잠깐, 사실은…” 같은 문단을 반복하며 많은 토큰을 소비함
      GLM 5.2에 JavaScript 약 50줄을 Python으로 옮기게 했을 때도 웹 검색과 재검토를 반복해 API 비용 0.25달러를 썼고, 첫 실행은 실패했지만 두 번째에는 작동했음. Claude Code/Fable은 훨씬 빨랐지만 같은 오류를 냈으며, 오픈 모델의 과도한 자기검토가 줄어들거나 프롬프트 방식이 개선되길 바람
    • 백만 토큰당 가격을 기준으로 삼는 일을 그만둘 필요가 있음. 표시된 토큰 단가보다 실제 사용 토큰 수가 비용에 더 큰 영향을 주므로, 중요한 건 지능 대비 작업당 비용 곡선임
      중국 모델은 아직 이 기준에 미치지 못하며 효율성보다 벤치마크 점수 극대화에 집중하는 듯함
    • Kimi K3는 현재 추론 강도를 max로만 지원하지만 다른 단계도 곧 제공할 예정임. 벤치마크 추적 기록에는 “잠깐, 하지만…” 같은 되돌아가기와 불확실성이 많이 보였고, GPT 5.6과 Fable의 xhigh·max에서도 정도는 덜하지만 비슷했음
      낮은 추론 강도가 지원되면 토큰 비효율이 개선될 가능성이 있음
      https://platform.kimi.ai/docs/guide/use-thinking-effort
    • Claude Code/Fable에 기능 구현을 맡기자 약 60분 동안 100유로 구독의 5시간 세션 중 30%를 사용했음. 이후 별도 터미널의 깨끗한 세션에서 /code-review만 실행했는데 코드 변경 없이 사용량이 99%까지 치솟았고, 남은 1%로는 review.md조차 작성하지 못했음
      평소 검토는 10~20%를 쓰지만 때로는 15분 만에 65~69%가 사라지는 등 사용량 변동성이 매우 큼
    • AI 구독 가격은 기묘함. 모델마다 사용량이 다르고, 공급자 인터페이스나 모델이 임의로 소비하는 불투명한 토큰으로 측정되며, 여기에 불투명한 시간 창 제한까지 적용됨

  • Kimi 유료 요금제에서 100만 토큰 문맥 길이는 월 79달러 이상에서만 제공되며, 그 아래는 25만6천 토큰으로 제한됨. 연간 결제 할인 기준 월 15달러 최저 요금제에서는 현재 K3 자체를 지원하지 않음
    https://www.kimi.com/code/docs/en/kimi-code/models.html

    • API만 쓰고 싶지만 DeepSeek에서 Reasonix/whale 도구와 높은 캐시 적중률을 조합하면 사실상 무료에 가까워, 다른 서비스로 옮기기 쉽지 않을 듯함

  • 오히려 반대라고 봄. Kimi K3는 2.8조 매개변수이며 ChatGPT 5.6이나 Opus 4.8의 규모는 공개되지 않았지만 비슷할 가능성이 있고, Fable·Mythos는 약 10조라는 소문이 있음
    백만 토큰당 입출력 가격은 K3가 3달러·15달러, ChatGPT 5.6 Sol이 5달러·30달러, Opus 4.8이 5달러·25달러라 차이가 크지 않음. 역사적 전환점이라기보다 경쟁사가 같은 성능으로 수렴하며 약간 싸게 파는 수준임. 현재 K3 가중치도 비공개라 상황이 바뀔 것 같지 않음

    • 공식 발표에 따르면 전체 모델 가중치는 2026년 7월 27일까지 공개될 예정임
    • OpenAI가 5시간 제한을 없애고 주간 한도를 자주 초기화한 점까지 고려하면, Kimi가 실효 가격에서도 정말 더 저렴한지는 의문임

  • 이 스레드에서도 Kimi의 실제 효용은 엇갈림. 개인적으로 Fable과 5.6 Sol보다 떨어진다고 보지만, 논의의 중심은 성능보다 미국 정부의 규제 행보에 대한 반발에 가까워 보임
    현재 상황에 대한 분노와 좌절 때문에 Kimi가 더 뛰어나길 바라는 심리도 작용하는 듯함

    • K3는 상당히 좋으며 Sol과 Fable 사이에 둘 만함. Sol의 UI 디자인 능력은 인상적이지 않지만 K3는 이 영역에 강하고, Fable은 전반적으로 가장 빠르고 일관된 성능을 냄
      작업 종류와 사용법에 크게 좌우되지만, K3가 미국 최첨단 모델과 동급이 아니다라는 평가는 내 사용 경험과 맞지 않음
    • DeepSeek 때의 재현처럼 보임. v3가 나왔을 때도 미국 기업은 끝났다는 평가가 쏟아졌지만 결국 모든 것이 그대로 이어졌음
    • 최전선 모델이 오픈 가중치 모델보다 6개월 이상 앞선다는 말을 셀 수 없이 들었지만 이제는 사실이 아님. 따라서 평가 기준이 옮겨가고 있음
    • 미국 정부가 올해 AI와 관련해 한 일은 받아들이기 어려우므로 그런 반응이 나오는 것도 이해됨

  • 여기서 ‘Claude’가 Opus인지 Fable인지, 그리고 추론 강도가 어느 단계인지 명확히 할 필요가 있음

    • ‘일상적인 코딩 작업’에서 차이를 모르겠다는 표현을 보면, 결과물을 구별할 만큼 충분히 이해하지 못하는 작업을 맡겼다는 뜻처럼 들림
    • 비교 대상은 Fable High와 K3 High였으며 주 용도는 게임 개발임. 모호한 시각적 버그 수정, 장면이나 모델의 외형 변경, 큰 기능 추가 등을 맡김
      원래 표현은 부정확했고 Fable이나 K3를 대부분의 시간에 쓰지는 않으며, 보통 범위가 작은 작업을 처리한 뒤 직접 검토함

  • 개인정보 처리방침도 작은 문제가 아님. Kimi 구독을 사용하면 상호작용을 모델 학습에 쓰며, API 가격으로 직접 API를 이용할 때만 쓰지 않는다고 밝힘. 이를 신뢰할지는 별개임
    OpenRouter에 다른 공급자가 등장할 때까지 기다린 뒤 신뢰도를 판단할 생각임. 그들을 크게 신뢰하지 않더라도 직접 모델을 학습하지 않는 공급자라면 데이터가 학습에 쓰일 가능성은 더 낮음

    • 이런 우려는 갈수록 우스워 보임. 입력 대부분은 같은 모델이 이전에 만든 출력과 “실수 없이 고쳐라” 같은 대충 쓴 사람의 명령일 뿐이므로, 미래 모델이 좋아진다면 학습에 써도 괜찮음
      사용자 99%는 걱정할 만한 특별한 지식재산을 다루지 않음
    • 취미 사용자 모두가 오픈 가중치 모델을 쓰더라도 기업용 무데이터 보존 시장은 미국 기업에 충분한 사업 기회를 제공할 것임
    • 이 정책은 이용 불가 사유임. 오픈 가중치 덕분에 가능한 독립 공급자 서비스가 나올 때까지 기다릴 생각임

  • 지금까지도 결국 모두 증류였음. Suhail이 말했듯 AI 모델의 이윤을 거의 0으로 만들어야 함
    인류의 데이터로 학습했으니 인류 자신에게 주는 선물이어야 하며, 그래야 소수가 인류를 통제하는 일을 막을 수 있음

    • 중국의 거대 모델을 여전히 ‘증류판’으로만 보는 건 우스움. 엄청난 데이터를 가져다 쓰면서 검열되고 성능이 제한된 모델에 사용자를 종속시키려던 미국 최전선 연구소를 덮칠 물결을 많은 이가 아직 인식하지 못함

  • 오픈소스 모델은 이미 최고 상용 모델 수준에 도달했음. 마지막 병목은 하드웨어지만 그 문턱도 빠르게 낮아지고 있음
    Kimi K3를 집에서 구동하는 건 여전히 매우 비싸지만, 적당한 하드웨어에서 돌릴 수 있는 유능한 무료 모델이 이미 많으며 이 흐름은 계속될 것임

답변달기