▲Lanarky - LLM을 프로덕션에 배포하기 위한 오픈소스 프레임워크 (github.com/ajndkr)7P by xguru 2023-06-18 | ★ favorite | 댓글과 토론 FastAPI 기반 멀티 모드 토큰 스트리밍 빠른 프로토타이핑을 위한 간단한 gradio 챗봇 LangChain 어플리케이션 지원 다수의 LLM 캐싱 전략 지원 예정: LlamaIndex, Guidance, Rebuff 등 지원 및 SQL DB 연동 함께 보면 좋은 글 β OpenLLM - LLM을 프로덕션에서 운영하기 위한 오픈 플랫폼 SuperAgent - LLM 에이전트를 프로덕션에 배포하기 GLM-5 공개 : 복잡한 시스템 엔지니어링과 장기 에이전트 작업을 목표로 하는 모델 Open Responses - LLM간 호환을 위한 오픈 규격 Lemonade by AMD: GPU와 NPU를 활용한 빠른 오픈소스 로컬 LLM 서버 인증 이메일 클릭후 다시 체크박스를 눌러주세요