# Upstage, 10.7B SOLAR 모델을 상용화 가능한 라이선스로 공개

> Clean Markdown view of GeekNews topic #12338. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=12338](https://news.hada.io/topic?id=12338)
- GeekNews Markdown: [https://news.hada.io/topic/12338.md](https://news.hada.io/topic/12338.md)
- Type: news
- Author: [xguru](https://news.hada.io/@xguru)
- Published: 2023-12-15T08:52:33+09:00
- Updated: 2023-12-15T08:52:33+09:00
- Original source: [huggingface.co](https://huggingface.co/upstage/SOLAR-10.7B-v1.0)
- Points: 9
- Comments: 1

## Topic Body

- 기존의 Llama2 7B의 능력을 극대화하기 위해 Depth Up-Scaling 기술을 개발하여 적용  
- 벤치마크상 매개변수가 30억개 미만인 모델에서는 뛰어난 성능을 보이며, 6배 크기의 QWEN 이나 최근 출시된 Mixtral 8x7B 모델을 능가  
  - OpenLLM 리더보드에서 74.2점으로 1등. 알리바바의 QWEN-72B가 73.6, Mixtral-8x7B가 72.6  
- Instruction 파인튜닝이 잘 적용됨   
- 이번 공개된 모델은 영어 기반이기 때문에 한국어 성능은 낮을 수 있음

## Comments



### Comment 21412

- Author: xguru
- Created: 2023-12-15T08:52:51+09:00
- Points: 1

[Upstage](https://www.upstage.ai/) 는 카카오톡에서 사용가능한 AI 인 AskUp 제작사입니다.  
[Alibaba, 오픈소스 AI 모델 QWEN 공개](https://news.hada.io/topic?id=10249)  
[Mistral AI, Llama 2 70B 모델보다 뛰어난 Mixtral 8x7B 모델 공개](https://news.hada.io/topic?id=12296)