# Inkling: Thinking Machines Lab의 오픈 웨이트 모델 > Clean Markdown view of GeekNews topic #31477. Use the original source for factual precision when an external source URL is present. ## Metadata - GeekNews HTML: [https://news.hada.io/topic?id=31477](https://news.hada.io/topic?id=31477) - GeekNews Markdown: [https://news.hada.io/topic/31477.md](https://news.hada.io/topic/31477.md) - Type: GN+ - Author: [neo](https://news.hada.io/@neo) - Published: 2026-07-16T09:43:28+09:00 - Updated: 2026-07-16T09:43:28+09:00 - Original source: [thinkingmachines.ai](https://thinkingmachines.ai/news/introducing-inkling/) - Points: 5 - Comments: 1 ## Topic Body - 처음부터 학습해 전체 가중치를 공개한 **Inkling**은 총 975B·활성 41B 파라미터의 MoE Transformer로, 최대 1M 토큰 문맥과 텍스트·이미지·오디오 기반 추론을 지원함 - 텍스트·이미지·오디오·비디오로 구성된 45조 토큰으로 사전 학습했으며, 특정 벤치마크보다 에이전트 작업·추론·코딩·지시 수행·사실성 전반의 **범용성과 맞춤화 가능성**을 우선함 - 추론 노력도를 0.2~0.99 범위에서 조절해 비용·지연 시간과 성능을 맞출 수 있으며, Terminal Bench 2.1에서는 Nemotron 3 Ultra와 같은 성능에 약 **3분의 1 토큰**을 사용함 - 현재 가장 강력한 개방형 또는 폐쇄형 모델은 아니지만, 멀티모달 기능과 효율적인 추론, **Tinker 미세조정**, 다양한 추론·배포 도구를 결합한 오픈 웨이트 기반을 지향함 - 함께 선보인 **Inkling-Small 프리뷰**는 총 276B·활성 12B 파라미터로 여러 평가에서 대형 모델과 비슷하거나 더 높은 결과를 냈으며, 테스트 완료 후 전체 가중치를 공개할 예정임 --- ### 전체 가중치를 공개한 범용 모델 - Thinking Machines Lab은 사람이 AI 모델을 직접 맞춤화할 수 있도록 처음부터 학습한 **Inkling의 전체 가중치**를 공개함 - Inkling은 총 **975B 파라미터** 가운데 토큰당 41B가 활성화되는 Mixture-of-Experts Transformer임 - 최대 문맥 창은 1M 토큰임 - 텍스트·이미지·오디오·비디오로 구성된 45조 토큰으로 사전 학습함 - 텍스트·이미지·오디오를 기본 입력으로 함께 추론함 - 특정 분야에 집중하기보다 에이전트 작업, 추론, 코딩, 지시 수행, 사실성, 비전, 오디오를 포괄하는 **균형 잡힌 기반 모델**로 학습함 - 공개·폐쇄 모델 전체에서 가장 강력한 모델은 아니며, 멀티모달 기능과 효율적인 추론, Tinker 미세조정을 결합한 맞춤화 기반 모델을 목표로 함 - 여러 크기로 확장할 모델 제품군의 첫 릴리스이며, 더 가벼운 Inkling-Small도 프리뷰로 함께 공개함 - [Tinker](https://thinkingmachines.ai/tinker/)에서 Inkling을 직접 미세조정할 수 있고, Tinker 콘솔의 Inkling Playground에서 대화하며 모델 특성을 확인할 수 있음 - 맞춤화 데모에서는 Inkling이 Tinker를 사용해 **자체 미세조정 작업을 작성·실행·평가**했으며, OpenCode 하네스 안에서 동작함 ### 범용 에이전트와 결과물 제작 - 서로 다른 작업 흐름과 제품에 맞춰 미세조정할 수 있도록 한 분야의 최고 성능보다 **폭넓은 작업 성능**을 우선함 - 코딩 및 에이전트 하네스 학습 과정에서 도구 집합과 스키마를 무작위화해 특정 하네스에 대한 민감도를 낮춤 - 하네스 내부에서도 추론 노력도를 설정할 수 있음 - 대부분의 에이전트 벤치마크에서 오픈 웨이트 모델 중 경쟁력 있는 점수를 기록함 - 한 번의 프롬프트로 구직 신청 웹 앱을 만들고, 자연어 지시에 따라 저장된 프로필로 양식을 작성하는 **브라우저 사용 에이전트**를 앱에 내장함 - 생성된 웹 앱을 블라인드 방식으로 일대일 비교하는 Design Arena의 Agentic Web Dev 리더보드에서 강한 오픈 웨이트 모델군에 포함됨 - 정확한 지시 수행과 일관된 스타일을 유지하며 9페이지 분량의 음식·여행 PDF 저널 같은 **다중 페이지 결과물**을 생성함 - GPT Codex가 검토자로 제공한 피드백을 40회 반영해 실시간 서버·봇·리더보드를 갖춘 온라인 멀티플레이어 Snake 게임을 개선함 - 긴 반복 개선 과정을 유지하면서 피드백으로 결과물을 발전시키는 능력을 협업 작업의 핵심으로 봄 ### 비용과 성능을 조절하는 추론 노력도 - 실제 애플리케이션에서는 최고 성능뿐 아니라 **토큰 비용과 지연 시간**도 제약이 되며, 특히 낮은 지연 시간은 반복적인 협업과 개선에 중요함 - 추론 노력도를 **0.2~0.99 범위에서 조절**해 성능과 생성 토큰 수 사이의 균형을 선택할 수 있음 - Terminal Bench 2.1, Humanity’s Last Exam(HLE), IFBench에서 노력도별 성능과 평균 생성 토큰을 비교함 - Terminal Bench 2.1에서는 Nemotron 3 Ultra와 같은 수준의 성능을 약 3분의 1 토큰으로 달성함 - HLE 결과는 최종 릴리스 이전 체크포인트에서 측정돼 최종 모델보다 약간 낮음 - 모델을 수백만 번 호출하거나 긴 작업 흐름에 포함할 때는 단일 최고 점수보다 **전체 비용·성능 곡선**을 기준으로 사용 사례별 설정을 고를 수 있음 ### 인코더 없는 네이티브 멀티모달 구조 - 실시간 음성·비전 협업을 지원하는 [interaction models system](https://thinkingmachines.ai/blog/interaction-models/)의 백그라운드 추론 모델로 활용할 수 있도록 처음부터 멀티모달로 학습함 - 비전과 오디오 모두 별도 인코더가 없는 **인코더 없는 구조**를 사용함 - 오디오는 [dMel 스펙트로그램](https://arxiv.org/abs/2407.15835)으로 입력함 - 이미지는 4계층 hMLP로 40×40픽셀 패치로 인코딩하며, [Vision Transformer 관련 연구](https://arxiv.org/abs/2203.09795)의 설계를 따름 - 두 입력은 가벼운 임베딩 계층을 통과한 뒤 텍스트 토큰과 함께 처리됨 - 오디오에서는 음성 전사, 음성 지시 수행, 녹음 질의응답, 장시간 오디오 추론을 지원함 - effort=0.99에서 Audio MC 56.6%, MMAU 77.2%, VoiceBench 91.4%를 기록함 - VoiceBench·MMAU·Audio MC 기준으로 강한 오픈 웨이트 오디오 모델군에 속함 - 비전에서는 이미지 설명과 질의응답뿐 아니라 차트·다이어그램·수학적 시각 추론까지 수행함 - MMMU Pro Standard 10은 73.5%, Charxiv RQ는 78.1%임 - Python으로 확대·자르기 같은 이미지 조작을 사용하면 Charxiv RQ가 82.0%로 올라감 - 후속 모델과 학습 파이프라인에서 멀티모달 기능을 계속 확장할 계획임 ### 확신도 보정과 불확실성 처리 - Inkling의 **인식론적 특성(epistemics)** 은 보정된 확신도, 지시 수행, 검열 저항을 함께 다루는 개념임 - 모든 답에 과도한 확신을 보이면 정보가 부족하거나 내용을 지어낼 때도 사용자가 매번 검증해야 하므로, 해결된 실제 질문에 적절한 채점 규칙을 적용하는 강화학습으로 확률 보정을 학습함 - 2026년 6월 30일부터 7월 13일까지 공개 버전과 다른 체크포인트로 수행한 예측 평가 결과는 다음과 같음 - 검색 없는 ForecastBench Brier Index는 61.1±0.79, 검색 사용 시 63.7±0.82임 - Prophet Arena Brier Score는 0.1617이며 낮을수록 좋음 - 복잡하고 검증하기 어려운 질문의 지시 수행에는 **rubric grader와 claims grader** 두 자동 평가기를 사용함 - rubric grader는 좋은 답변에 필요한 항목을 체크리스트로 평가하지만, 관련 있어 보이는 사실을 대량 출력해 점수를 노리는 방식에 취약함 - claims grader는 에이전트 웹 검색으로 각 사실 주장을 검증하고 확인되지 않는 주장을 감점함 - 두 평가기를 함께 사용해 유용성을 높이면서 환각을 줄이도록 학습함 - 장문 답변에서 보정된 불확실성을 직접 학습하기 위해 기권 보상(abstention-aware rewards)을 적용한 단문 사실 질의응답 데이터도 사용함 - 정답 가능성이 높을 때만 답변이 보상되며, 불확실하면 “모르겠다”고 답하거나 조건부 추측을 내놓는 편이 유리함 - 일부 프롬프트는 유보 표현을 권장하거나 금지해, 강제 추측과 보정된 무응답 중 사용자의 선호를 따르도록 함 - 검열 대상이 될 수 있는 주제에도 직접 답하도록 학습했으며, Cognition의 [Propaganda and Censorship Eval](https://cognition.com/blog/measuring-open-source-model-trustworthiness)에서 검열에 따르지 않는 강한 패턴을 보임 ### 위험 능력과 안전 행동 평가 - 모든 입력 양식에 적용되는 내부 안전 행동 명세로 학습한 뒤 **외부 안전 평가자**를 통해 결과를 검증함 - 위험 능력 평가는 CBRN, 사이버, 통제 상실을 포함하며, 사람과 AI 사이의 위협은 아첨 성향, 취약한 사용자, 해로운 조작을 다룸 - effort=0.99의 주요 안전 평가 결과는 다음과 같음 - FORTRESS Adversarial 78.0% - FORTRESS Benign 95.9% - StrongREJECT 98.6% - 비교 대상 오픈 웨이트 모델 중 FORTRESS에서 가장 강한 내장 보호장치를 보였으며, 무기·폭력 관련 유해 요청은 더 많이 거부하면서 겉보기에 유사한 정상 요청의 과잉 거부는 줄임 - 명백한 유해 요청 거부를 측정하는 StrongREJECT에서는 98% 이상으로 다른 개방형·폐쇄형 모델과 비슷한 수준임 - 맞춤형 모델에서는 미세조정이 안전 행동과 능력 상승에 미치는 영향을 계속 연구함 ### 전체 벤치마크와 측정 조건 - 모든 기본 평가는 **effort=0.99, temperature=1.0**으로 실행했으며, 코딩 평가에는 최대 256K 토큰의 작업 경로 제한을 적용함 - HLE, GPQA Diamond, GDPVal, Tau 3 Banking, AA Omniscience, MMMU Pro에는 가능한 경우 Artificial Analysis가 외부에서 보고한 점수를 사용함 - Inkling의 대표 점수는 다음과 같음 - 추론: HLE 텍스트 전용 29.7%, 도구 사용 46.0%, AIME 2026 97.1%, GPQA Diamond 87.2% - 에이전트 코딩: SWEBench Verified 77.6%, SWEBench Pro Public 54.3%, Terminal Bench 2.1 63.8% - 일반 에이전트: GDPVal-AA v2 1238, MCP Atlas 74.1%, Tau 3 Banking 23.7%, 문맥 관리 포함 BrowseComp 77.1% - 사실성·대화: SimpleQA Verified 43.9%, AA Omniscience 2.1, IFBench 79.8%, Global-MMLU-Lite 88.7% - 비전·오디오: MMMU Pro 73.5%, Python 사용 Charxiv RQ 82.0%, Audio MC 56.6%, MMAU 77.2%, VoiceBench 91.4% - 결과를 해석할 때는 다음과 같은 **평가 조건 차이**를 고려해야 함 - SWEBench Verified의 Inkling 결과는 bash 전용 하네스로 측정했으며, 외부 모델에는 자체 보고 점수를 사용함 - Terminal Bench 2.1은 내부 코딩 하네스로 측정했고, 웹 검색에서 정답 오염이 확인된 소수 결과는 0점 처리함 - VoiceBench는 하드코딩된 문자열 일치 방식이 출력 형식에 민감해 예상 답변 형식을 따르라는 시스템 메시지를 추가함 - Audio MC의 일부 비교 모델은 공식 리더보드에 없어 내부 평가함 - Python 사용 CharXiv RQ의 Claude Fable 5와 GPT 5.6 Sol은 내부 Python 하네스로 측정함 ### 장문 문맥을 위한 MoE 아키텍처 - Inkling의 MoE 구조는 대체로 DeepSeek-V3를 따르면서 효율성과 장문 문맥 성능을 위한 변경을 적용함 - 각 MoE 계층에는 **256개 라우팅 전문가와 2개 공유 전문가**가 있으며, 토큰마다 라우팅 전문가 6개가 활성화됨 - sigmoid 기반 라우터와 보조 손실 없는 부하 균형 바이어스를 사용함 - 선택된 라우팅 전문가와 공유 전문가의 점수를 함께 정규화해 출력 결합 가중치로 활용함 - 어텐션은 슬라이딩 윈도우 계층과 전역 계층을 **5:1 비율**로 교차 배치하고 8개 KV head를 사용함 - 위치 인코딩에는 널리 쓰이는 RoPE 대신 [상대 위치 임베딩](https://arxiv.org/abs/1803.02155)을 채택함 - [Music Transformer](https://arxiv.org/abs/1809.04281) 계열의 상대 위치 표현이 더 긴 시퀀스에서 성능과 외삽에 유리했음 - 짧은 합성곱은 두 지점에 적용함 - 각 어텐션 계층의 key·value projection 뒤 - 어텐션 및 MLP 잔차 분기가 주 잔차 스트림에 합쳐지기 전 ### 45조 토큰 사전 학습과 대규모 강화학습 - 텍스트·이미지·오디오·비디오로 구성된 45조 토큰을 사용해 **NVIDIA GB300 NVL72** 시스템에서 학습함 - 최적화에는 큰 행렬 가중치용 Muon과 나머지 파라미터용 Adam을 조합함 - 하이퍼파라미터 일정은 [modular manifolds 연구](https://thinkingmachines.ai/blog/modular-manifolds/)에서 가져옴 - 가중치 감쇠 강도를 학습률 제곱에 연동해 학습 기간이 달라져도 전체 가중치 크기를 안정적으로 유지함 - 후속 학습은 수학, 에이전트 코딩·도구 사용, 오디오, 이미지, 대화, 안전 영역을 포괄함 - 초기 SFT에는 Kimi K2.5 등 오픈 웨이트 모델이 생성한 합성 데이터를 사용함 - 초기 SFT는 전체 연산의 작은 일부이며, 대부분은 합성 및 사람이 만든 환경에서의 대규모 강화학습에 투입함 - 비동기 강화학습을 **3천만 회 이상의 롤아웃**으로 확장하고 두 차례의 장기 연속 실행에서 안정적으로 학습함 - AIME, HLE, GPQA 등을 묶은 별도 추론 평가 점수가 전체 과정에서 로그 선형적으로 향상됨 - 시스템 메시지와 토큰당 비용을 바꿔 샘플별 노력도를 지정하고, 서로 다른 양의 토큰을 사용하도록 학습해 추론 노력도 제어 능력을 얻음 - 강화학습이 진행되면서 사고 과정은 문법적 연결어나 관사를 줄이는 **압축된 형태**로 바뀌었지만, 이해 가능성과 최종 답변은 유지됨 - 보상이 직접 목표로 삼은 결과가 아니라 효율성 압력에서 나타난 변화임 - Cognition의 [SWE-1.7](https://cognition.com/blog/swe-1-7) 학습에서도 비슷한 현상이 관찰됨 - 후속 모델에서는 사전 학습·후속 학습·강화학습 전반의 연산 규모를 더 확대할 계획임 ### 더 작고 빠른 Inkling-Small 프리뷰 - Inkling-Small은 총 **276B·활성 12B 파라미터**의 MoE 모델로, 활성 41B인 Inkling보다 비용과 지연 시간이 낮음 - 개선된 사전 학습 데이터와 학습 방식 덕분에 여러 벤치마크에서 대형 Inkling과 비슷하거나 더 높은 결과를 냈으며, 두 모델은 같은 확장형 후속 학습 스택을 사용함 - effort=0.99에서 대형 모델과 비교한 주요 결과는 다음과 같음 - HLE 도구 사용 46.6% 대 46.0%, GPQA Diamond 88.3% 대 87.2% - MCP-Atlas 74.9% 대 74.1%, IFBench 83.4% 대 79.8% - Python 사용 Charxiv RQ 83.4% 대 82.0%, MMAU 77.5% 대 77.2%, StrongREJECT 98.8% 대 98.6% - 대형 모델보다 낮은 결과도 있음 - Terminal Bench 2.1은 52.7% 대 63.8%, Tau 3 Banking은 13.6% 대 23.7% - SimpleQA Verified는 20.9% 대 43.9%, Audio MC는 49.6% 대 56.6%임 - 코딩, LLM 기반 채점, 다른 모델용 합성 데이터 생성처럼 **비용과 지연 시간이 중요한 작업**에 적합함 - 현재 테스트를 마무리하고 있으며, 완료 후 전체 가중치를 공개할 예정임 ### 미세조정과 배포 생태계 - 범용 모델로 해결하기 어려운 조직별 전문 문제는 **전문 지식을 활용한 미세조정**으로 격차를 줄일 수 있으며, Inkling은 미세조정에서 빠르게 학습하도록 설계됨 - [Tinker](https://thinkingmachines.ai/tinker/)에서는 64K와 256K 문맥 길이로 Inkling을 사용할 수 있음 - 제한된 기간 동안 50% 할인 가격을 적용함 - 세부 가격은 [Tinker 모델 문서](https://tinker-docs.thinkingmachines.ai/tinker/models/)에서 확인할 수 있음 - [Tinker cookbook](https://github.com/thinking-machines-lab/tinker-cookbook)은 Inkling을 기본 지원하며, 오디오 기능을 활용하는 레시피 3개를 추가함 - [tml-renderer](https://pypi.org/project/tml-renderers/)는 도구 호출, 추론 콘텐츠, 멀티모달 입력을 안정적으로 샘플링하고 후속 학습하는 기능을 제공함 - [Inkling Playground](https://tinker.thinkingmachines.ai/playground?utm_source=blog&utm_campaign=inkling_model_release)는 에이전트 웹 검색을 통합한 대화 인터페이스이며 제한된 기간 동안 무료임 - Tinker에서 미세조정한 체크포인트는 [TogetherAI](https://www.together.ai/), [Fireworks](https://fireworks.ai/), [Modal](https://modal.com/), [Databricks](https://www.databricks.com/), [Baseten](https://www.baseten.co/) API로 배포할 수 있음 - 오픈소스 추론 및 강화학습 생태계도 지원함 - RadixArk와 협력해 [SGLang](https://www.sglang.io/) 및 [Miles](https://github.com/radixark/miles)를 지원함 - Inferact와 [vLLM](https://vllm.ai/), Lightseek와 [TokenSpeed](https://github.com/lightseekorg/tokenspeed), Unsloth와 [llama.cpp](https://github.com/ggml-org/llama.cpp)를 연동함 - Hugging Face와 [transformers](https://github.com/huggingface/transformers) 통합을 지원함 - [Hugging Face의 Inkling 저장소](https://huggingface.co/thinkingmachines/inkling)에서 원본 체크포인트와 NVIDIA Blackwell용 효율적 추론을 위한 **NVFP4 체크포인트**를 받을 수 있음 ## Comments ### Comment 61889 - Author: neo - Created: 2026-07-16T09:43:29+09:00 - Points: 1 ###### [Hacker News 의견들](https://news.ycombinator.com/item?id=48924912) - **오디오를 지원하는 최대 규모 공개 가중치 멀티모달 모델**이라 반갑고, 실제 오디오 성능이 얼마나 좋은지 궁금함 로컬에서 실행하려면 다음 자료를 참고할 수 있음 [https://github.com/danielhanchen/llama.cpp/tree/add-inkling]() [https://unsloth.ai/docs/models/inkling]() [https://huggingface.co/unsloth/inkling-GGUF]() [https://huggingface.co/unsloth/inkling-NVFP4]() KimiK2.7보다 낫다고 하는데, GLM5.2가 크게 주목받는 와중에도 절반 정도는 KimiK2.7을 사용하고 있음. 벤치마크가 사실이라면 충분히 선택지에 들어가며, 일부 영역에서는 다른 모든 공개 가중치 모델을 능가하길 기대함 - 게다가 **미국 모델**임. Llama 3 이후 처음으로 경쟁력 있게 나온 비중국계 공개 가중치 모델 아닌가 싶음 - KimiK2.7보다 낫다는 근거가 어디에 있는지 모르겠음. 대부분의 벤치마크에서는 오히려 더 낮은 성능을 보임 - Kimi에는 어떤 **평가 하네스**를 사용하는지 궁금함 - 미국에도 자체적인 **DeepSeek나 Z.ai**가 필요함. 나를 포함해 많은 이가 다른 선택지가 없어서 중국 공개 모델의 성공을 응원하는데, Thinking Machines가 그 역할을 할 수도 있음 - 많이 알려지지는 않았지만 **arcee.ai**도 바로 그 자리를 목표로 하는 듯함 현재 공개 가중치 모델 목록은 [https://www.arcee.ai/open-source-catalog]()에서 볼 수 있음 - **AllenAI**도 주목할 만함. Microsoft의 Paul Allen이 설립했으며, 학습 데이터까지 포함해 진정으로 투명하고 개방적인 AI를 만드는 최고의 팀 중 하나임 - Arcee, Reflection, Llama 등 공개 가중치 모델을 추진하는 회사가 이미 많고, Meta가 공개와 비공개 중 어디에 집중할지는 아직 불확실함 그래도 **미세조정 API와 공개 가중치 모델**의 조합은 최소한 성립 가능한 사업처럼 보임. 단지 QLoRA나 LoRA를 사용하는 것이라면 공개 모델 보유사가 왜 미세조정을 더 잘할 수 있는지는 아직 의문이지만 지켜볼 만함 - 가정용 하드웨어에서 **초당 10토큰 이상**으로 실행할 수 있는 100B 미만 모델도 출시하길 바람 - 공개 가중치 모델은 어떤 **사업 모델**로 운영할 수 있는지 궁금함 - Tinker에서 미세조정할 수 있는 **공개 기반 모델**은 훌륭한 사업 모델이라고 봄. 기업은 자기 모델을 소유하면서 특정 업무에서는 최첨단 모델 이상의 성능을 훨씬 낮은 비용으로 얻고, Thinking Machines는 그 생태계의 핵심 인프라·서비스 제공자가 될 수 있음 더 작은 Inkling-Small이 사전학습 데이터와 학습 방식 개선 덕분에 여러 벤치마크에서 큰 모델과 같거나 더 높은 성능을 내는 것도 인상적임. 차세대 **Thinky 모델**이 기대됨 - 현대 모델 개발에는 놀랄 만큼 다양한 작업이 필요함. 예전에는 새 손실 함수나 작은 아키텍처 변경을 만들고 학습·평가 루프를 돌린 뒤 결과물을 공개하면 됐지만, 이제는 따라잡는 데만도 엄청난 작업이 드는 **붉은 여왕 경쟁**이 됨 500개가량의 단계 각각이 작은 최적화 루프라는 점은 경이롭기까지 함. 이 때문에 소규모 팀이 대규모 팀보다 빠르다는 기존 법칙도 뒤집혔고, AI에는 큰 팀이 필요함. 조직 관성이 문제가 되는 건 인원이 수천 명을 넘어서면서부터이며, 그전까지는 수많은 구성 요소를 12명의 뛰어난 인재만으로 감당하기 어려움 - 강력한 **긴 문맥·멀티모달 공개 가중치 모델**이 나와 반가움. 오디오 성능의 혜택을 볼 애플리케이션이 많고, z.ai 등이 시각 기능을 개발하기 전까지는 범용 에이전트형 애플리케이션에도 강력할 수 있음 다만 일부 관련 벤치마크에는 약점도 보임. 결국 다른 모델과 마찬가지로 직접 하네스에 넣고 자신이 중시하는 작업을 제대로 평가해야 함 - MiniMax M3와 DeepSeek v4-Pro도 긴 문맥을 지원하는 매우 유능한 공개 가중치 멀티모달 모델임. 하지만 **긴 문맥은 함정**이며, 15만~20만 토큰을 넘으면 성능이 여전히 급격히 하락함 - 첫 모델이면서 공개됐다는 점을 고려하면 **미국의 공개 AI 연구소**에 다시 믿음이 생기기 시작함. OpenRouter 등에 아직 올라오지 않아 시험하지 못했지만, GLM5.1 정도만 되어도 첫 시도로는 충분히 훌륭함 조만간 더 많은 연구소가 최첨단에 가까운 수준까지 따라잡을 수 있을 듯하며, 어느 분야든 경쟁이 늘어나는 건 환영함 - NVIDIA도 **Nemotron**을 개발하고 있음 - 아직 매우 초기 시험이지만 **벤치마크가 보여주는 것 이상의 잠재력**이 있음. 공개 평가보다 내 비공개 평가에서 훨씬 뛰어난 결과가 나온 건 Anthropic 모델 외에는 거의 보지 못했으며, 판단하기엔 너무 이르지만 앞으로 몇 주간 상당한 시간을 투자하게 될 듯함 공개 가중치 모델 중에는 Moonshot AI 모델만 감수하고 사용할 만하다고 봤고 Z.AI는 내 작업군에서 그만큼 잘하지 못했는데, 이 모델은 두 번째 선택지가 될 잠재력이 있음. Mistral이 이런 모델을 내놓았다면 나를 포함한 유럽 애호가들이 계속 떠들었을 것 같음 - 웹 검색을 끄고 추론 기록으로도 이를 확인한 상태에서, **아주 전문적인 세부 질문** 여러 개에 정확히 답했음. 특정 준클래식 차량의 엔진별 정비나 희귀한 가방 구조·소재처럼, 지금까지 Gemini 3와 3.1 Pro만 맞혔던 질문들임 Fable 5, GPT-5.6 Sol을 비롯한 다른 연구소의 어떤 모델도 웹 없이 정확히 답하지 못했지만, 해당 분야에 정통하다면 상식에 속하고 객관적인 정답도 분명히 존재함. 공개 벤치마크에 없어 과적합하기 어려운 작업에서 **Fable 5보다 앞선 것**은 상당히 인상적임 - 특히 **지시 이행 능력**은 좋아 보이지만 코딩은 다른 모델보다 약한 듯함. 그래도 공개 가중치 모델의 다양성이 늘어나는 건 언제나 반가우며, 직접 시험해 어떤 성격을 보이는지 확인해봐야겠음 - 반응 속도가 상당히 빠르고 지금까지는 말투와 성격도 마음에 듦 “오늘 Hacker News 첫 화면을 살펴보고, 나중에 읽을 수 있도록 오늘의 기술 소식을 정리한 일일 브리핑 결과물을 만들어 달라”고 요청한 결과임 [https://chat.home.jake.town/artifacts/019f679d-99e5-7000-b02...]() - 대체로 Nemotron보다 좋고 GLM보다는 떨어지므로, 현재로서는 **최고의 미국 공개 가중치 모델**로 보임 - 전체 크기는 Nemotron 3 Ultra의 거의 두 배라 훨씬 좋아야 할 듯함. 다만 **활성 매개변수**는 41B 대 55B로 오히려 조금 적어 보임 - Nemotron이 비교 대상으로 거론되는 것 자체가 의외임. 코딩 작업에 사용해본 결과 성능이 극도로 나빠 사실상 사용할 수 없었음 - 오늘 **Hy3**를 사용해봤는데 마음에 들었고, DSV4P보다 소폭 발전한 수준이었음. 그 정도 성능에 멀티모달까지 지원한다면 상당히 괜찮을 듯함