▲KubeAI - 쿠버네티스 위에서 Private AI 운영하기 (github.com/substratusai)10P by xguru 2024-11-13 | ★ favorite | 댓글과 토론 OpenAI와 호환되는 HTTP API 제공 부하에 기반한 자동 스케일링 오픈소스 LLM을 CPU/GPU 기반으로 서빙 가능 제로 의존성(Istio, Knative 등) Chat UI 내장 GeekNews Weekly에 포함된 글입니다. 에디터 코멘트 보기 함께 보면 좋은 글 β klaw.sh - AI 에이전트를 위한 kubectl KubeSolo - IoT·엣지에 최적화된 초경량, 단일 노드 Kubernetes 구글, Private AI Compute 공개 Framein - 콕핏도 프록시도 하네스도 아닌, AI 코딩 에이전트 아래의 작업 상태 레이어 알리바바의 오픈소스 Qwen3.5-Medium 모델, 로컬에서 Sonnet 4.5 수준 성능 제공 댓글과 토론 인증 이메일 클릭후 다시 체크박스를 눌러주세요