▲
GN⁺ 1달전 | parent | ★ favorite | on: Unsloth Studio - 로컬에서 AI 모델을 훈련하고 실행하는 오픈소스 노코드 웹 UI(unsloth.ai)
Hacker News 의견들

  • 아직 MacBook에서 unsloth studio 설정을 제대로 못 하고 있음
    Python 관련 툴링 문제 때문임
    대신 이미 Docker 컨테이너에서 llama.cpp 서버를 돌리고 있어서, 세 가지 코드베이스를 비교 실험해봄
    첫 번째 비교 코드, 두 번째 비교 코드
    꽤 흥미로운 결과였음. unsloth studio가 제대로 작동하면 다음 주에 다시 시도할 예정임

    • 다시 시도해볼 수 있다면 좋겠음. 방금 PyPI 릴리스를 새로 올렸음
      아래 명령으로 설치 가능함 
      curl -LsSf https://astral.sh/uv/install.sh | sh  
uv venv unsloth_studio --python 3.13  
source unsloth_studio/bin/activate  
uv pip install unsloth==2026.3.7 --torch-backend=auto  
unsloth studio setup  
unsloth studio -H 0.0.0.0 -p 8888

  • unsloth의 비즈니스 모델이 궁금함. 무료로 많은 걸 공개하는데, 수익 구조가 명확하지 않아 보임

    • 지금은 오픈소스 커뮤니티에 유용한 툴링을 제공하는 게 주 목표임
      닫힌 소스가 더 인기가 많은 이유가 툴링 품질 때문이라 생각함. 앞으로 공개할 게 많음
    • 팀 규모가 8명 정도라면, 당장 자금난에 시달리는 건 아닐 것 같음

  • 학습 기능이 흥미로웠는데, ‘on NVIDIA’라고 되어 있어서 아쉬웠음
    macOS의 Metal 스택으로 SFT(지도학습 미세조정)를 할 수 있는 대안이나 튜토리얼이 있을지 궁금함

    • 문서 하단에 non-Nvidia 지원을 준비 중이라고 되어 있음
      나도 AMD 환경이라 기대 중임. ROCm은 고통스럽지만 AMD 자체는 마음에 듦
    • “Mac: CPU 기반으로만 채팅 가능, MLX 학습은 곧 지원 예정”이라고 명시되어 있음
    • 그 맥으로 Nvidia GPU 임대해서 쓰는 게 현실적인 대안일 수도 있음
    • ㅋㅋ

  • Unsloth는 진짜 괜찮은 프로젝트임
    자체 AI 엔진을 돌리는 사람이라면 꼭 써볼 만함

  • Apache 라이선스라서 회사에서도 써볼 생각임
    LMStudio는 독점 라이선스라 승인받기 힘들었음

    • 일부 구성요소만 Apache임

  • AMD 지원을 꼭 해줬으면 함
    지금은 AMD GPU로 복잡한 우회 설정을 쓰고 있음

    • 그들도 AMD 지원을 준비 중이라고 함. 나도 기다리는 중임

  • macOS에서 소스 빌드 시도했는데 아래와 같은 TypeScript 오류가 발생했음
    'status' is declared but its value is never read

    • 수정 완료됨. 아래 명령으로 다시 시도해보길 권장함 
      curl -LsSf https://astral.sh/uv/install.sh | sh  
uv venv unsloth_studio --python 3.13  
source unsloth_studio/bin/activate  
uv pip install unsloth --torch-backend=auto  
unsloth studio setup  
unsloth studio -H 0.0.0.0 -p 8888
    • 빠르게 확인해서 수정하겠다고 함

  • macOS에서 pip로 설치하는 건 시스템을 망가뜨릴 위험이 있어서 비추천임
    Homebrew 패키지나 수동 설치용 zip 파일이 필요함

    • 동의함. 지금은 “uv”나 “mise”로 설치하는 게 더 낫다고 봄
      uv tool install unsloth로 깔면 관리가 쉬움
    • 피드백 고맙고, 설치 과정을 더 개선 중임
      주로 Python 생태계 출신이라 패키징 경험이 부족했음. Homebrew 지원이 다음 목표임
    • 먼저 uv를 설치한 뒤, 가상환경 안에서 Python 패키지를 격리 설치하는 걸 추천함
    • uv sync를 쓰면 훨씬 깔끔함
      pyproject.toml로 의존성을 관리하고, 한 번의 명령으로 재현 가능한 환경을 만들 수 있음
      예전에 ROCm 기반 unreleased 버전으로 unsloth를 설치했는데, uv sync 한 줄로 해결했음
      관련 이슈 코멘트
    • pipx로 해결할 수 있을지도 모르겠음
      pipx 설치 문서

  • AMD 지원이 생기면 다시 확인하러 올 예정임

  • mac에서 GPU를 사용하는지 궁금함
    setup 시에는 CPU 전용이라고 표시되었음