# Lanarky - LLM을 프로덕션에 배포하기 위한 오픈소스 프레임워크

> Clean Markdown view of GeekNews topic #9423. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=9423](https://news.hada.io/topic?id=9423)
- GeekNews Markdown: [https://news.hada.io/topic/9423.md](https://news.hada.io/topic/9423.md)
- Type: news
- Author: [xguru](https://news.hada.io/@xguru)
- Published: 2023-06-18T10:16:01+09:00
- Updated: 2023-06-18T10:16:01+09:00
- Original source: [github.com/ajndkr](https://github.com/ajndkr/lanarky)
- Points: 7
- Comments: 0

## Topic Body

- FastAPI 기반   
- 멀티 모드 토큰 스트리밍   
- 빠른 프로토타이핑을 위한 간단한 gradio 챗봇   
- LangChain 어플리케이션 지원   
- 다수의 LLM 캐싱 전략   
- 지원 예정: LlamaIndex, Guidance, Rebuff 등 지원 및 SQL DB 연동

## Comments



_No public comments on this page._