Tabby - 셀프호스트 가능한 오픈소스 AI 코딩 비서

(github.com/TabbyML)

30P by xguru 2023-04-13 | ★ favorite | 댓글과 토론

GitHub Copilot 의 On-Prem 대체제
DBMS 및 클라우드 없이 운용 가능
모델 및 MLOps 설정 & 시각화용 웹 UI 제공
OpenAPI 인터페이스, 기존 인프라와 쉽게 연동 가능
일반 소비자용 GPU 지원(최적화를 통한 FP-16 가중치 로딩)