Gerbil - 로컬 LLM 실행용 데스크톱 앱
(github.com/lone-cloud)- 개인 하드웨어에서 LLM 을 손쉽게 실행하도록 설계된 그래픽 UI 도구
- 백엔드 관리, 모델 다운로드, 하드웨어 가속 설정 등 복잡한 과정을 자동화
- llama.cpp를 포크한 KoboldCpp 기반으로 동작하며 텍스트 및 이미지 생성 모두 지원
- Windows, macOS, Linux(특히 Wayland 포함)에서 네이티브 실행 지원
- CPU 전용 시스템에서도 동작하며, CUDA, ROCm, Vulkan, CLBlast, Metal 기반 GPU 가속 지원
- 이미지 생성 기능 내장 : Flux, Chroma, Qwen Image, Z-Image 등 주요 워크플로우 프리셋 제공
- HuggingFace 통합 검색 기능으로 앱 내에서 모델 탐색, 모델 카드 확인, GGUF 파일 직접 다운로드 가능
-
--cli옵션으로 터미널 기반 실행 가능하며, GUI 없이 동일한 백엔드 구동, 리소스 사용 최소화 - AGPL-3.0 라이선스