▲Jan - 오픈소스 ChatGPT 대체제를 위한 크로스 플랫폼 프레임워크 (github.com/janhq)18P by xguru 2024-01-13 | ★ favorite | 댓글 1개 100% 로컬, 모든 하드웨어에서 실행: NVidia GPU, 애플 실리콘부터 멀티 GPU 클러스터 까지 최종 목표는 누구나 AI를 쉽게 탑재할수 있도록 지원 하는 것 Jan Framework, Jan Desktop Client + Server, Nitro Nitro : C++로 작성된 고효율 추론 엔진 (3MB) Llama.cpp + TensorRT + Whisper.cpp + StableDiffusion 함께 보면 좋은 글 β Google LiteRT-LM - 엣지 디바이스용 고성능 LLM 추론 프레임워크 Onit - 맥용 로컬 오픈소스 AI 채팅 어시스턴트 HuggingChat - 오픈소스 ChatGPT 대체제 Zero-boilerplate 'Apps in ChatGPT' 개발 프레임워크 ChatGPT for Robotics : 설계 원칙과 모델 능력 댓글과 토론 인증 이메일 클릭후 다시 체크박스를 눌러주세요 ▲riskatcher 2024-01-14 [-]한글 성능은 어떤가 궁금하네요 답변달기