# Unsloth Studio - 로컬에서 AI 모델을 훈련하고 실행하는 오픈소스 노코드 웹 UI

> Clean Markdown view of GeekNews topic #27606. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=27606](https://news.hada.io/topic?id=27606)
- GeekNews Markdown: [https://news.hada.io/topic/27606.md](https://news.hada.io/topic/27606.md)
- Type: news
- Author: [xguru](https://news.hada.io/@xguru)
- Published: 2026-03-18T10:46:01+09:00
- Updated: 2026-03-18T10:46:01+09:00
- Original source: [unsloth.ai](https://unsloth.ai/docs/new/studio)
- Points: 32
- Comments: 3

## Summary

로컬 환경에서 **AI 모델의 학습과 추론을 한 번에 처리**할 수 있는 오픈소스 웹 UI입니다. llama.cpp와 Hugging Face 스택을 기반으로  **멀티 GPU 추론**과 다양한 LLM·비전·오디오 모델을 지원하며, GGUF·safetensors 형식의 모델을 맥·윈도우·리눅스에서 실행하며 최대 2배 빠른 학습 속도와 VRAM을 70% 적게 사용합니다.

## Topic Body

- 텍스트, 오디오, 임베딩, 비전 등 다양한 AI 모델의 **로컬 실행과 학습**을 하나의 인터페이스에서 지원하는 오픈소스 도구  
- 맥/윈/리눅스에서 **GGUF/safetensor 모델**을 로컬 실행 가능하며, 학습 시 최대 **2배 빠른 속도**와 **70% 적은 VRAM** 사용을 달성  
- llama.cpp + Hugging Face 기반으로 **멀티 GPU 추론** 및 대부분의 모델 지원  
- Unsloth 커널이 **LoRA, FP8, FFT, PT**를 최적화하여 500개 이상의 텍스트, 비전, TTS/오디오, 임베딩 모델 지원  
- Qwen3.5, NVIDIA Nemotron 3 등 최신 LLM의 파인튜닝이 가능하며, **멀티 GPU** 자동 지원  
  - 풀 파인튜닝, 4bit/16bit/FP8 학습, 강화학습(GRPO) 등 폭넓은 학습 방식 지원  
  - MoE LLM을 **12배 빠르게** 학습시키거나, 80GB GPU에서 500K 이상의 컨텍스트 길이로 20B 모델을 학습하는 등 최적화 기술이 지속적으로 추가되는 중  
- 파인튜닝된 모델 포함 모든 모델을 **safetensors/GGUF**로 내보내기하여 llama.cpp, vLLM, Ollama, LM Studio 등에서 사용 가능  
- PDF, CSV, JSON 등 비정형 문서를 자동으로 데이터셋으로 변환하는 **Data Recipes** 기능과 자가 복구 도구 호출, 코드 실행 기능 내장  
- 훈련 손실, GPU 사용률을 실시간 추적하는 **관측 기능** 포함  
- **Model Arena**에서 기본 모델과 파인튜닝 모델 등 **2개 모델의 출력을 나란히 비교** 가능  
- 100% 오프라인 로컬 실행으로 **프라이버시를 보장**하며, Apple MLX·AMD·Intel 지원이 곧 추가될 예정  
- **워크플로** :  
  Studio 실행 →  
  로컬 파일 또는 지원 통합에서 모델 로드 →  
  PDF, CSV, JSONL 등으로 훈련 데이터 가져오기 또는 처음부터 데이터셋 생성 →  
  **Data Recipes**에서 데이터셋 정제·확장 → 추천 프리셋 또는 커스텀 설정으로 훈련 시작 →  
  훈련된 모델과 기본 모델 출력 비교 →  
  기존 사용 스택으로 로컬 저장 또는 내보내기  
- 라이선스  
  - 메인 Unsloth 패키지는 **Apache 2.0** 라이선스  
  - Unsloth Studio UI 등 일부 선택적 컴포넌트만 **AGPL-3.0** 오픈소스 라이선스 적용

## Comments



### Comment 53414

- Author: wedding
- Created: 2026-03-20T11:22:09+09:00
- Points: 1

저도 나오자마자 해봤는데요.. 페이지가 깨지고, 튜토리얼을 못넘어가더라구요 ㅠ

### Comment 53415

- Author: wedding
- Created: 2026-03-20T11:24:29+09:00
- Points: 1
- Parent comment: 53414
- Depth: 1

https://github.com/unslothai/unsloth/issues/4444#issuecomment-4089154700  
  
바로 고쳤었군요!

### Comment 53320

- Author: neo
- Created: 2026-03-19T03:39:53+09:00
- Points: 1

###### [Hacker News 의견들](https://news.ycombinator.com/item?id=47414032) 
- 아직 MacBook에서 **unsloth studio** 설정을 제대로 못 하고 있음  
  Python 관련 툴링 문제 때문임  
  대신 이미 Docker 컨테이너에서 llama.cpp 서버를 돌리고 있어서, 세 가지 코드베이스를 비교 실험해봄  
  [첫 번째 비교 코드](https://gist.github.com/ontouchstart/7483c12efa3c3d3a49e38c24e9f3c7f1), [두 번째 비교 코드](https://gist.github.com/ontouchstart/217fe2b8103a5c0bfaee1e972083534a)  
  꽤 흥미로운 결과였음. unsloth studio가 제대로 작동하면 다음 주에 다시 시도할 예정임
  - 다시 시도해볼 수 있다면 좋겠음. 방금 **PyPI 릴리스**를 새로 올렸음  
    아래 명령으로 설치 가능함  
    ```bash
    curl -LsSf https://astral.sh/uv/install.sh | sh  
    uv venv unsloth_studio --python 3.13  
    source unsloth_studio/bin/activate  
    uv pip install unsloth==2026.3.7 --torch-backend=auto  
    unsloth studio setup  
    unsloth studio -H 0.0.0.0 -p 8888
    ```

- unsloth의 **비즈니스 모델**이 궁금함. 무료로 많은 걸 공개하는데, 수익 구조가 명확하지 않아 보임
  - 지금은 오픈소스 커뮤니티에 **유용한 툴링**을 제공하는 게 주 목표임  
    닫힌 소스가 더 인기가 많은 이유가 툴링 품질 때문이라 생각함. 앞으로 공개할 게 많음
  - 팀 규모가 8명 정도라면, 당장 자금난에 시달리는 건 아닐 것 같음

- 학습 기능이 흥미로웠는데, ‘on NVIDIA’라고 되어 있어서 아쉬웠음  
  macOS의 **Metal 스택**으로 SFT(지도학습 미세조정)를 할 수 있는 대안이나 튜토리얼이 있을지 궁금함
  - 문서 하단에 **non-Nvidia 지원**을 준비 중이라고 되어 있음  
    나도 AMD 환경이라 기대 중임. ROCm은 고통스럽지만 AMD 자체는 마음에 듦
  - “Mac: CPU 기반으로만 채팅 가능, MLX 학습은 곧 지원 예정”이라고 명시되어 있음
  - 그 맥으로 **Nvidia GPU 임대**해서 쓰는 게 현실적인 대안일 수도 있음
  - ㅋㅋ

- **Unsloth**는 진짜 괜찮은 프로젝트임  
  자체 AI 엔진을 돌리는 사람이라면 꼭 써볼 만함

- **Apache 라이선스**라서 회사에서도 써볼 생각임  
  LMStudio는 독점 라이선스라 승인받기 힘들었음
  - 일부 구성요소만 Apache임

- AMD 지원을 꼭 해줬으면 함  
  지금은 AMD GPU로 복잡한 우회 설정을 쓰고 있음
  - 그들도 AMD 지원을 준비 중이라고 함. 나도 기다리는 중임

- macOS에서 소스 빌드 시도했는데 아래와 같은 **TypeScript 오류**가 발생했음  
  `'status' is declared but its value is never read`  
  - 수정 완료됨. 아래 명령으로 다시 시도해보길 권장함  
    ```bash
    curl -LsSf https://astral.sh/uv/install.sh | sh  
    uv venv unsloth_studio --python 3.13  
    source unsloth_studio/bin/activate  
    uv pip install unsloth --torch-backend=auto  
    unsloth studio setup  
    unsloth studio -H 0.0.0.0 -p 8888
    ```
  - 빠르게 확인해서 수정하겠다고 함

- macOS에서 pip로 설치하는 건 **시스템을 망가뜨릴 위험**이 있어서 비추천임  
  Homebrew 패키지나 수동 설치용 zip 파일이 필요함
  - 동의함. 지금은 “uv”나 “mise”로 설치하는 게 더 낫다고 봄  
    `uv tool install unsloth`로 깔면 관리가 쉬움
  - 피드백 고맙고, 설치 과정을 더 개선 중임  
    주로 Python 생태계 출신이라 **패키징 경험**이 부족했음. Homebrew 지원이 다음 목표임
  - 먼저 uv를 설치한 뒤, 가상환경 안에서 Python 패키지를 격리 설치하는 걸 추천함
  - **uv sync**를 쓰면 훨씬 깔끔함  
    `pyproject.toml`로 의존성을 관리하고, 한 번의 명령으로 재현 가능한 환경을 만들 수 있음  
    예전에 ROCm 기반 unreleased 버전으로 unsloth를 설치했는데, `uv sync` 한 줄로 해결했음  
    [관련 이슈 코멘트](https://github.com/unslothai/unsloth/issues/4280#issuecomment-4063417291)
  - pipx로 해결할 수 있을지도 모르겠음  
    [pipx 설치 문서](https://pipx.pypa.io/stable/installation/)

- AMD 지원이 생기면 다시 확인하러 올 예정임

- mac에서 GPU를 사용하는지 궁금함  
  setup 시에는 **CPU 전용**이라고 표시되었음
