# llmware - RAG을 포함한 LLM 기반 어플리케이션 개발용 통합 프레임워크

> Clean Markdown view of GeekNews topic #13374. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=13374](https://news.hada.io/topic?id=13374)
- GeekNews Markdown: [https://news.hada.io/topic/13374.md](https://news.hada.io/topic/13374.md)
- Type: news
- Author: [xguru](https://news.hada.io/@xguru)
- Published: 2024-02-15T10:32:01+09:00
- Updated: 2024-02-15T10:32:01+09:00
- Original source: [github.com/llmware-ai](https://github.com/llmware-ai/llmware)
- Points: 11
- Comments: 0

## Topic Body

- 오픈소스 LLM 모델을 쉽게 통합하고 기업내 지식과 안전하게 연결하는데 중점을 두고 엔터프라이즈 LLM 어플리케이션을 빠르게 구축 가능   
- 주요 기능   
  - 모델 카탈로그: 기본 구현에 관계없이 모든 모델에 동일한 방식으로 액세스하고 쉽게 조회 가능   
  - 라이브러리: 파싱, 텍스트 청크, 임베드 등 지식 컬렉션을 대규모로 수집, 정리, 색인  
  - 쿼리: 텍스트, 시맨틱, 하이브리드, 메타데이터 및 사용자 정의 필터가 혼합된 라이브러리를 쿼리 가능   
  - 소스 포함 프롬프트: 지식 검색과 LLM 추론을 결합하는 가장 쉬운 방법  
  - RAG에 최적화된 모델 - RAG 워크플로우 통합을 위해 설계되고 로컬에서 실행되는 1~7B 매개변수 모델  
  - 확장하기 쉬운 데이터베이스 옵션 - 노트북에서 병렬화된 클러스터까지 통합된 데이터 저장소  
- 멀티-모달 에이전트, DB설치 없이도 빠른 시작 가능(SQLite, FAISS), Postgres 연동(pgvector), GCUF 지원

## Comments



_No public comments on this page._