1P by GN⁺ | ★ favorite | 댓글 1개
  • Kimi K3 수요가 예상보다 크게 늘어 최근 48시간 동안 GPU 사용량이 현재 용량 한계에 근접함
  • 기존 구독자의 이용 경험을 보호하기 위해 신규 구독을 일시 중단하고 현재 회원에게 컴퓨팅 자원을 우선 배정함
  • 기존 유료 구독자는 영향을 받지 않으며, Moonshot AI는 인프라 용량 증설을 서두르고 있음
  • 추가 용량을 확보하는 대로 신규 구독을 배치 단위로 재개할 것
  • 또한, 이용 목적에 따라 멤버십을 두 가지 전용 요금제로 나눌 예정임
    • Kimi Membership: Kimi Web, App, Work용
    • Kimi Code Membership: 코딩 작업 흐름용
  • 서비스별 수요에 맞춰 컴퓨팅 자원을 더 정확히 배분하고 안정적인 이용 경험을 유지하려는 조치

댓글과 토론

Hacker News 의견들
  • 지난 48시간 동안 수요가 현재 용량의 한계에 근접하자 기존 구독자의 사용 환경을 지키기 위해 신규 구독을 일시 중단하고 컴퓨팅 자원을 기존 회원에게 우선 배정했다는 문구가 정말 보기 좋음
    빠른 성장보다 기존 고객 만족을 우선하는 회사임

    • GitHub가 예전에 똑같이 했을 때는 많은 사람이 화냈지만, 그때도 지금도 옳은 결정이었음
    • 어느 웹사이트에서나 “Login” 버튼이 “Sign Up”보다 작은 게 늘 싫었음
    • 그렇다면 Hetzner도 가격을 올려 수요와 공급을 조절하는 대신 신규 가입을 중단했어야 했을까?
    • 너무 흥분할 필요는 없음. 벤처투자사들이 AI에 막대한 돈을 붓고 있으니, OpenAI나 Anthropic이 데이터셋을 증류하려고 토큰 소모 장치에 자금을 투입하는 것일 수도 있음
  • 어제 Claude 사용량을 다 써서 Kimi를 시험하려고 20달러 요금제를 결제했음. Kimi Code에서 K3를 선택하고 저장소 내 하드웨어, 입출력, 스레드 제어, 네트워크 관련 입력 설정을 모두 찾아 보고서를 작성하라고 요청했는데, 12분간 생각한 뒤 일일 할당량을 모두 썼다고 답함
    다음 날 Fable은 같은 작업을 3분 만에 끝냈으니 K3를 쓰려면 20달러 요금제는 사지 않는 게 좋음

    • Codex는 한도에 도달해도 계속 추론한 뒤 요청에 답해줌
    • 완전 자가 호스팅 모델만 써서 다른 환경일 수 있지만, 12분 동안 아무 피드백 없이 기다리는 일이 실제 작업 흐름에서 흔한지 궁금함. 나는 모델이 가는 경로를 계속 지켜보다가 막다른 길로 향하면 중단하거나 방향을 수정함
    • 나도 정확히 같은 일을 겪었음. Kimi.com의 월 20달러 요금제를 연간 결제하고 OpenCode에서 API를 통해 Kimi K2.7에 간단한 요청을 보냈는데 5시간 할당량을 모두 소진했고, Cursor는 같은 요청을 몇 분 만에 완료함
      웹 화면상 주간 사용량도 23%나 썼는데, 월 20달러 Cursor에서는 훨씬 많은 작업을 해도 경고조차 받은 적이 없음. 처음에는 OpenCode 문제라고 생각했지만 Kimi Code에서도 같았다면 그렇지 않은 듯함
    • 며칠 전 Claude에서도 비교적 간단한 작업 하나가 답을 내놓지 못한 채 5시간 할당량 전체를 소진해 시간을 완전히 낭비한 느낌이었음
    • 대상 애플리케이션의 규모가 궁금함. 텍스트 파일을 데이터베이스처럼 쓰는 Node.js 할 일 앱인지, 1971년에 만든 100만 줄짜리 COBOL 스파게티 코드인지에 따라 다름
  • Kimi는 완전 어텐션 계층보다 RNN·선형 어텐션 계층이 3배 많다는 점이 특히 흥미로움. 아직 써보진 않았지만 긴 문맥 작업에 매우 합리적인 구조로 보임
    매개변수가 많은 이유는 계산 최적 xLSTM의 매개변수가 많은 이유와 같아 보이며, 이 모델의 성공을 보니 유럽에서 거대한 xLSTM 계열 모델을 개발하지 못한 점이 아쉬움. 내부 평가에서 잘 작동하는 것을 택하는 실용적인 팀이라 일반 어텐션 계층도 유지했고 구현까지 이상적이라고 보장할 수는 없지만, 대규모 LLM 훈련용 슈퍼컴퓨터를 적합한 연구자에게 제공했다면 무엇이 가능했을지를 Kimi가 보여줌. 결국 대부분이 Hochreiter의 분야인 RNN임

    • Transformer 구조의 본래 목적 중 하나가 병렬화할 수 없는 RNN을 제거하는 것 아니었나? 전문가는 아니고 몇 년 전 논문 몇 편을 읽은 정도임
    • 약 1년 반 전에 Hochreiter에게 수십억 매개변수 실험에 머물지 말고 xLSTM을 LLM 규모로 확장해야 한다고 말했지만, 투자와 관심을 얻기에는 너무 늦었다고 여기는 듯했음. 유럽의 포부가 이 정도라니 아쉬움
    • RNN인지, Qwen이나 Mamba 같은 상태 공간 모델인지, 혹은 RWKV에 가까운지 궁금했는데 확인해 보니 Qwen이 사용하는 Linear DeltaNet과 유사함
  • 약 6개월간 코딩 작업에 Kimi를 사용해 왔고 만족해서 다른 모델로 돌아보지 않았음. 놓치는 게 없는지 가끔 Claude로 같은 작업을 시험하는 정도임
    OpenRouter를 이용하며 LLM 사용 범위가 좁아서 비용 차이는 어느 쪽이든 무시할 만함

    • 어떤 요금제인지 궁금함. 내 경험으로는 Kimi의 월 20달러 요금제와 Qwen의 월 30달러 요금제 모두 주력 도구로 쓰기엔 턱없이 부족했지만, K3 때문에 월 49달러나 99달러 요금제를 시험해 보고 싶음
  • Google처럼 사용자가 구독 가치가 줄어든 것을 눈치채지 못하길 바라며 한도를 조용히 낮추는 대신 신규 구독을 중단한 점이 신선함
    Gemini Apps는 용량 제약이나 활동량 급증 시 품질 유지를 위해 예고 없이 한도를 변경할 수 있다고 명시함: https://support.google.com/gemini/answer/16275805

  • 다중 에이전트 게임 코딩 평가에서 중국 모델은 보통 단발 추론에는 약하지만 도구 사용과 반복 개선으로 이를 만회함. Kimi K3도 단발 코딩에서는 19위지만, 실행 환경과 도구를 제공하고 여러 번 호출하는 에이전트 코딩에서는 3위였으며 평균 제출물 기준으로 Sol과 Fable만 앞섬
    소프트웨어 엔지니어에게는 에이전트 코딩이 가장 관련성이 높지만 속도도 중요하며, 현재 Kimi에는 실제 사용성 문제가 됨. Fireworks 같은 외부 추론 제공업체가 이전 모델에서는 이 격차를 줄인 적이 있음. 공개 가중치 최전선 모델이 표준으로 자리 잡는 흐름은 흥미롭고, 최전선 모델 보유 자체로 경쟁하기는 갈수록 어려워질 것임
    데이터: https://gertlabs.com/rankings?mode=agentic_coding

  • 이 모델의 품질은 기대 이상이며 특히 코드 리뷰와 PR 리뷰를 잘함. 다만 과도한 수요와 큰 모델 크기 때문에 지금은 너무 느려서 비교적 간단한 코드 리뷰에도 아주 오래 걸림

    • Kimi K3가 이제 opencode-go 요금표에 올라왔으니 사용할 수 있다는 뜻으로 보이지만 아직 확인하진 못함. Zen에는 없음
    • OpenRouter 경로를 써볼 만함: https://openrouter.ai/moonshotai/kimi-k3
  • 이번 Kimi 열풍이 풍부한 공급이 더 많은 소비를 부르는 제번스의 역설에 따른 순증가인지, 단순히 더 저렴한 모델로 이동한 것인지 궁금함
    여러 연구소와 OpenRouter를 아우르는 전체 토큰 소비량을 확인할 좋은 자료가 있는지도 궁금함

    • 저렴한 모델로 이동하는 흐름이라면 DeepSeek v4 Flash로 갔을 것임. 최신 Kimi는 다른 중국 모델 대부분보다 비싸므로 “새 모델이 정말 좋으니 써보라”는 유행 추종 효과에 가까워 보임. 면밀한 검증을 얼마나 견딜지가 관건이며 미국 연구소들은 꽤 긴장하고 있을 듯함
  • Anthropic과 OpenAI가 당분간 이 정도 수요를 감당할 수 있는 유일한 업체라는 이유만으로 계속 경쟁력을 유지할지 궁금함. 이미 비용이 큰 상황에서 장애로 직원 시간을 낭비하면 기업 고객은 달가워하지 않을 것임

    • 직장에서도 같은 흐름이 나타남. 소프트웨어 자체는 저렴하지만 호스팅 전문성과 가동 시간 책임 때문에 실제 배포는 여전히 몇몇 업체에 집중됨. 다만 개인 노트북에서 돌아가는 바이브 코딩 생산성 도구도 많이 생김
    • Anthropic도 불과 몇 달 전 수요 문제로 혼잡 시간대와 비혼잡 시간대의 사용량을 구분해 사용자들을 괴롭혔고 장애도 잦았음. 이후 xAI와 계약한 뒤 대체로 안정됐으며 Moonshot도 현재 컴퓨팅 자원 계약을 추진 중임
    • OpenAI와 Anthropic의 컴퓨팅 자원 상당 부분은 실제로 하이퍼스케일러 소유임. 장기 계약으로 확보한 자원 접근권에 마진을 붙일 수 있겠지만, 하이퍼스케일러가 더 낮은 가격을 제시할 수 있어 오래가지는 않을 듯함
    • Kimi는 공개 가중치 모델이므로 Moonshot 외의 호스팅 제공업체가 빠르게 등장할 것이며, 이번 문제가 공개 가중치 채택에 큰 장애가 되지는 않을 것임
    • Synthetic을 사용 중인데 Kimi3를 호스팅할 계획으로 알고 있음. 공개 모델은 추론을 분산할 수 있음
  • 최소 서비스 품질을 고객에게 보장하지 못할 수 있다고 판단해 구독을 중단한 것으로 보임

    • 정확히는 신규 구독만 일시 중단하고 기존 회원에게 컴퓨팅 자원을 우선 배정한 것임