Tencent, 오픈소스 모델 Hy3 공개

 (hy.tencent.com)
1P by GN⁺ | ★ favorite | 댓글 1개
  • 비슷한 크기 모델보다 높은 성능을 목표로 하며, 2~5배 많은 파라미터를 가진 플래그십 오픈소스 모델과도 경쟁 가능한 수준
  • 270명 전문가의 실제 업무 기반 블라인드 평가에서 Hy3는 2.67/4로 GLM-5.1의 2.51/4를 앞섰고, 프론트엔드 개발·데이터 및 스토리지·CI/CD에서 차이가 컸음
  • 제품 피드백 기반 개선으로 환각률은 12.5%→5.4%, 상식 오류율은 25.4%→12.7%, 내부 다회전 테스트 이슈율은 17.4%→7.9%로 낮아짐
  • Apache 2.0 라이선스로 GitHub, HuggingFace, ModelScope, AtomGit에 공개됐으며, API 가격은 100만 토큰당 입력 1 RMB·출력 4 RMB·캐시 입력 0.25 RMB임
  • Tencent는 4월 말 Hy3 preview 이후 50개 이상 제품의 피드백과 고품질 후훈련 데이터를 반영해 정식 Hy3를 공개

Hy3 공개와 에이전트 성능

  • Tencent는 4월 말 Hy3 preview 출시 뒤 50개 이상 제품에서 피드백을 모았고, 더 높은 품질의 데이터로 후훈련을 확장해 Hy3를 공개함
  • 새 모델은 비슷한 크기의 모델보다 높은 성능을 내고, 2~5배 파라미터를 가진 플래그십 오픈소스 모델과 경쟁 가능한 수준으로 평가됨
  • preview 이후 후훈련 데이터의 품질과 다양성을 높이고 RL 훈련을 확장함
    • 추론, 에이전트형 작업, 긴 컨텍스트 작업에서 개선됨
    • 더 큰 플래그십 모델들과 경쟁 가능한 수준을 목표로 함
  • 생산성 작업에서는 코딩, 오피스 업무, 금융 모델링, 프론트엔드 디자인, 게임 개발에서 진전이 있음
    • 270명 전문가가 실제 업무 과제를 사용한 블라인드 평가에서 Hy3는 2.67/4를 기록함
    • GLM-5.1은 2.51/4를 기록함
    • Hy3의 우위는 프론트엔드 개발, 데이터 및 스토리지, CI/CD 작업에서 가장 컸음

제품 신뢰성, 비용, 공개 방식

  • 벤치마크만으로 모델 유용성을 충분히 포착하기 어렵다고 보고, 실제 제품 피드백을 바탕으로 여러 문제를 고침
  • 도구 호출과 출력 형식 안정성을 개선함
    • 도구 설정과 출력 제약 전반에서 프로덕션 수준 기준에 맞추기 위해 기본 신뢰성 문제를 수정함
    • 도구 호출 오류 복구와 전반적 효율이 나아짐
    • CodeBuddy, Cline, KiloCode 같은 서로 다른 에이전트 스캐폴딩에서 SWE-Bench Verified 정확도 변동폭이 4% 이내로 유지됨
  • 지식과 환각 방지를 강화함
    • 근거가 있을 때 답하고, 증거가 없으면 없다고 말하며, 출처를 섞거나 데이터를 조작하지 않는 기준으로 데이터 정제와 훈련 제약을 적용함
    • 내부 실제 시나리오 평가에서 환각률은 12.5%에서 5.4%로 낮아짐
    • 상식 오류율은 25.4%에서 12.7%로 낮아짐
    • 사실 혼동, 조작, 논리적 모순이 줄어듦
  • 복잡한 컨텍스트 유지와 다회전 의도 추적을 개선함
    • SFT와 RL의 공동 최적화로 지시 대상 해석, 생략 복원, 다회전 제약 상속 같은 운영상 문제를 다룸
    • 내부 종합 다회전 테스트의 이슈율은 17.4%에서 7.9%로 낮아짐
    • MRCR 같은 긴 대화 평가에서도 개선됨
    • 긴 상호작용에서도 복잡한 의도가 약해지거나 드리프트되지 않도록 하면서 출력은 더 간결해짐
  • WorkBuddy 내부 테스트에서 Hy3는 preview 대비 작업 성공률과 완료 시간을 개선함
    • 작업 성공률은 Hy3 preview의 72%에서 Hy3의 90%로 상승함
    • 평균 완료 시간은 34% 줄어듦
    • 데이터 처리, 문서 작업, 리서치 보고서 분석에서 개선됨
  • GLM-5.2와 비교한 일부 일반 작업에서 Hy3의 토큰 효율이 높았음
    • 문서 처리에서 47.4% 적은 토큰을 사용함
    • 프레젠테이션 생성에서 49% 적은 토큰을 사용함
  • Hy3는 Apache 2.0 라이선스로 공개됨
  • 하드웨어-소프트웨어 공동 최적화로 API 가격을 낮춤
    • 100만 토큰당 입력: 1 RMB
    • 100만 토큰당 출력: 4 RMB
    • 100만 토큰당 캐시 입력: 0.25 RMB
  • Tencent는 1월 말 인프라 재구축, 4월 Hy3 preview, 이번 Hy3 공개와 제품 배포까지 6개월 안에 엔드투엔드 모델 개발 루프를 거침
  • 앞으로 훈련 확장, 데이터 품질 개선, 사용자 경험 세부 최적화를 계속할 계획임

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 며칠 전 Pelican 결과: https://simonwillison.net/2026/Jul/6/hy3/ — OpenRouter의 무료 티어를 쓰고 있었고, 7월 21일에 만료됨
    41일 전에는 프리뷰 모델로 시험했더니 "change pelican color" 버튼이 달린 펠리컨이 나왔음: https://static.simonwillison.net/static/2026/hy3-preview-pelican.html

    • 최근 GPT-OSS로 펠리컨 테스트를 해봤는데, 2025년 최고의 로컬 모델 중 하나였던 듯함
      SVG 펠리컨에서 모델들이 얼마나 좋아졌는지 보는 게 정말 멋짐
    • TFA가 왜 "Tencent in China"라고 굳이 짚었는지 궁금함
      tencent/Hy3. New Apache 2.0 licensed model from Tencent in China라고 되어 있는데, Tencent AI 연구소가 다른 지역에도 있나? 예를 들어 MiniMax는 Tencent와 어떤 관련이 있음
    • 예전에 당신 글에 과하게 비판적이었고 악의적으로 논쟁했으며, 당신에게 부정적으로 굴면서 나쁜 분위기를 만들었다고 봄
      LLM을 그다지 좋아하진 않지만, 당신 덕분에 내 감정이 비합리적이었다는 것과, 내가 즐거움을 느끼던 직업이 이전 형태로는 사실상 끝났으니 내려놓고 돈과 관심을 위해 하는 쪽에 합류해야 한다는 걸 깨달았음
      그래도 내 개인 프로젝트는 가능하면 직접 손코딩하고 LLM은 쓰지 않을 생각임
      펠리컨 밈이 실제로 얼마나 유용한지는 몰라도, 미적으로라도 시작한 건 멋지다고 생각함

  • 한 달 전에 아무도 Hy3를 이야기하지 않는데 OpenRouter 순위 상위에 올라 있다는 블로그 글을 썼음: https://news.ycombinator.com/item?id=48317294
    오늘 기준으로는 순위가 8~9위까지 내려갔고, 경쟁 모델 대신 이걸 써야 할 이유는 잘 안 보임
    다만 가격 구조는 좀 헷갈리는데, 현재 OpenRouter를 통한 Hy3의 실질 입력 가격이 DeepSeek가 호스팅하는 DeepSeek Flash V4와 같아졌음
    https://openrouter.ai/tencent/hy3-preview
    https://openrouter.ai/deepseek/deepseek-v4-flash

    • 요청 제한이 너무 심해서 사용을 멈춰야 했음
      순위가 떨어진 것도 아마 그 때문일 듯하고, 수요를 감당하지 못하는 것처럼 보였음
    • 그건 프리뷰 모델이었던 것 같고, 이번 모델은 훨씬 나아 보임
      여전히 작은 모델이긴 하지만, 적어도 벤치마크 점수는 DeepSWE 포함해서 크게 올랐음
      가격은 Flash와 같지만 벤치마크는 Pro와 비슷하거나 일부는 더 높음
      물론 벤치마크는 대체로 의미가 적고, 진짜 벤치마크는 실제로 맡기는 작업임
    • OpenRouter에서는 정말 느리고 HTTP 오류도 많이 겪었음
    • 꽤 몰입감 있는 산문을 쓰고, 미세조정도 잘 되며, 이제 MIT 라이선스임
      크기 대비 세계 지식도 매우 좋고 DS4 Flash보다 낫다고 봄

  • Novita가 OpenRouter에서 7월 21일까지 Hy3 무료 사용을 제공 중임
    https://openrouter.ai/tencent/hy3:free
    https://x.com/novita_labs/status/2074158304159510819

  • 크기가 꽤 비슷한 만큼 DS4 Flash와 비교해서 사람들이 어떻게 느끼는지 궁금함
    또한 강한 양자화를 걸었을 때 얼마나 버티는지도 궁금함
    DS4 Flash는 현재 RAM 약 96GB 이상인 시스템에서 꽤 잘 돌아가는데, Hy3가 그 영역에서 경쟁할 수 있을지 모르겠음

    • 어제 OpenRouter로 Hy3를 써봤고, Anthropic 구독을 일주일 전에 취소한 뒤로는 DS4 Flash/Pro를 주력으로 쓰고 있음
      DS4 Flash는 Claude Code를 통해 쓸 때 꽤 변덕스럽다고 느꼈음
      속도는 훌륭하지만 완전히 잘못된 정신 모델을 만들고 엉뚱한 방향으로 돌진하는 경우가 많아서 자주 제어해야 했고, 히스토리도 압축해야 해서 캐시 가격 이점이 줄어듦
      Hy3는 그렇게 빠르진 않지만 지금까지는 DS4 Flash보다 훨씬 안정적으로 방향을 유지함
      긴 문맥에서도 덜 망가지는 것 같고, 실제 가격은 잘 모르겠지만 매우 경쟁력 있는 모델이라고 느낌
      별개로 LongCat 2.0도 5천만 토큰 팩을 사서 시험해봤는데, 무료는 아니지만 사실상 뿌리는 수준으로 저렴함
      이것도 꽤 인상적이고 Hy3와 대략 비슷해 보임
      최전선급 지능은 아니지만, 코드베이스를 잘 탐색하고 지시한 일을 안정적으로 수행하는 믿을 만한 일꾼에 가까움
    • DSV4에서 겉으로 잘 안 보일 수 있는 점은 DeepSeek 팀이 구조에 많은 혁신을 넣었다는 것임
      llama.cpp가 lightning indexer를 완전히 지원하면, 전체 1M 문맥이 RAM 약 6GB만 필요하게 됨
      그래서 크기가 비슷하더라도 그 측면에서는 DeepSeek가 훨씬 효율적일 거라고 봄
      Hy3가 경쟁할 수 있을지는 양자화에 얼마나 강한지에 크게 달려 있음
      DSV4는 2비트 양자화에서도 쓸 만함
    • 그건 DS4 Flash의 2비트 양자화임
      차라리 Qwen3.6-27B를 Q8로 돌리는 편이 나을 수도 있음
    • Hy3에는 DSv4 구조의 KV 캐시 효율이 없음
      DSv4 Flash는 DGX Spark 두 대에서 돌리면서도 KV 캐시 3M 토큰을 넣을 메모리가 남지만, Hy3는 FP4로 양자화해도 KV 캐시가 약 130K 토큰 정도밖에 들어가지 않음
    • DS4-Flash는 “상당히” 더 작을 뿐 아니라, DSpark 덕분에 훨씬 더 빠른 속도 이점도 얻을 수 있음

  • 이 모델은 성능에 비해 놀랄 만큼 작음
    deepseekV4 flash보다 약간 크지만, 일부 벤치마크에서는 V4 pro만큼이거나 더 뛰어나 보여서 인기 로컬 모델이 되어도 놀랍지 않음

    • 그 부분이 계속 궁금했음
      GLM-5.2도 DeepSeek V4 Pro의 절반 크기인데, 가격은 대략 두 배임
      DeepSeek 구조를 조금 살펴봤는데 핵심 초점은 최대한 비용을 줄이는 방법이었음
      어텐션 메커니즘에서 비용 절감을 많이 했고, 덕분에 거대한 문맥에서도 말도 안 되게 싼 가격을 제공할 수 있었지만 성능 희생이 있었던 것 같음
      적어도 더 작은 모델이 더 비싸고 더 잘하는 걸 보면 “어텐션이 더 조밀한가?”라는 생각이 듦
    • “로컬”이 수천 달러짜리 장비를 쓰는 사람들을 뜻하는 게 아니라면 아직 꽤 큰 모델임
    • Hy3 has 295B parameters in total. To serve it on 8 GPUs, we recommend using H20-3e or other GPUs with larger memory capacity.
      나도 인기 로컬 모델이 될 수 있다고 봄

  • 모델을 써봤는데 꽤 훌륭했고, ~~gpt5.4~~ gpt-5.4-mini보다 나은 것 같음
    성능도 sonnet 5에 충분히 가까워서 큰 차이를 못 느꼈음
    gpt 5.5급은 아니고 아마 glm 5.2보다는 낮겠지만, 내가 해본 대부분 작업에서는 그냥 잘 작동했고 매우 저렴함
    FOSS 모델이 필요하다면 안 쓸 이유가 없음
    수정: 기본 gpt-5.4가 아니라 gpt-5.4-mini였음

    • Hy3 DeepSWE는 28%이고, GPT5.4 xhigh DeepSWE는 52%임
      Hy3 블로그 글에는 오염된 벤치마크가 많아 보여서 실제 테스트가 필요함
      많은 중국 모델처럼 벤치마크 최적화가 심하게 된 느낌이 강함
    • 모델을 잘못 본 것 같음
      gpt-5.4라면 거기에 맞먹는 오픈소스 모델은 없을 듯하고, 아마 1년은 더 걸릴 수 있음

  • Hy3를 쓰면 내가 이상해지는 기분임
    극단적으로 벤치마크 최적화가 된 건지, 아니면 내 사용법 문제인지 모르겠지만 차라리 dense Gemma를 쓰고 싶음
    최근 기억으로 내 시간을 이만큼 낭비한 모델은 없었음

    • Hy3 프리뷰는 모델을 이용한 보안 감사 벤치마크에서 평범한 성능이었고, Gemma 4가 더 나았음
      31B가 확실히 앞섰고, MoE도 QAT 버전으로 4비트 양자화를 써도 약간 더 좋았음
      Qwen 3.6 27B도 Hy3보다 나았음
      프리뷰를 벗어나고 후학습이 더 들어간 지금 다시 시험해볼 예정임
      더 나빠지진 않았을 테니, 31B 모델과 경쟁할 만큼 좋아졌을 수도 있음

  • Hy 언어의 새 릴리스인 줄 알았음: https://hylang.org

  • 진짜 필요한 건 추론 또는 LLM 구조의 돌파구임
    GLM-5.2급 모델을 Qwen 3.6 27b 이하 크기로 48GB Macbook Pro 같은 소비자 기기에서 초당 최소 100토큰으로 돌릴 수 있어야 함
    내 가설은, 더 작고 덜 똑똑하지만 빠른 모델을 좋은 실행 장치와 묶으면 더 오래 돌리면서, 큰 모델이 한 번에 푸는 문제를 힘으로 밀어붙여 해결할 수 있다는 것임

    • 실행 장치 자체가 말 그대로 LLM이 되는 쪽을 더 기대함
      여러 기계 구조물에 진동 감쇠기를 다는 것과 비슷한 방식임

  • 사이트에 접속할 수 없음
    https://hy.tencent.com/research/hy3에 연결되지 않음

답변달기