# MLC LLM - LLM모델을 어떤 디바이스에든 배포 가능하게 해주는 오픈소스 솔루션

> Clean Markdown view of GeekNews topic #9153. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=9153](https://news.hada.io/topic?id=9153)
- GeekNews Markdown: [https://news.hada.io/topic/9153.md](https://news.hada.io/topic/9153.md)
- Type: news
- Author: [xguru](https://news.hada.io/@xguru)
- Published: 2023-05-11T10:46:01+09:00
- Updated: 2023-05-11T10:46:01+09:00
- Original source: [github.com/mlc-ai](https://github.com/mlc-ai/mlc-llm)
- Points: 15
- Comments: 1

## Topic Body

- 누구나 AI 모델을 개발하고 최적화해서 어떤 디바이스에든 배포 가능하게 만드는 것을 목표   
- MLC(Machine Learning Compilation) 와 Apache TVm Unity 를 이용   
- 지원 플랫폼  
  - 아이폰/아이패드/안드로이드  
  - Metal GPU 와 Intel&ARM 맥북   
  - AMD/Intel 및 NVidia GPU(윈도우/리눅스에서 Vulkan)  
  - NVidia GPU(윈도우/리눅스에서 CUDA)  
  - 브라우저의 WebGPU

## Comments



### Comment 16039

- Author: carnoxen
- Created: 2023-05-11T11:51:46+09:00
- Points: 1

크로스 플랫폼이 여러모로 인기네요