llmware - RAG을 포함한 LLM 기반 어플리케이션 개발용 통합 프레임워크

• 오픈소스 LLM 모델을 쉽게 통합하고 기업내 지식과 안전하게 연결하는데 중점을 두고 엔터프라이즈 LLM 어플리케이션을 빠르게 구축 가능
• 주요 기능
  • 모델 카탈로그: 기본 구현에 관계없이 모든 모델에 동일한 방식으로 액세스하고 쉽게 조회 가능
  • 라이브러리: 파싱, 텍스트 청크, 임베드 등 지식 컬렉션을 대규모로 수집, 정리, 색인
  • 쿼리: 텍스트, 시맨틱, 하이브리드, 메타데이터 및 사용자 정의 필터가 혼합된 라이브러리를 쿼리 가능
  • 소스 포함 프롬프트: 지식 검색과 LLM 추론을 결합하는 가장 쉬운 방법
  • RAG에 최적화된 모델 - RAG 워크플로우 통합을 위해 설계되고 로컬에서 실행되는 1~7B 매개변수 모델
  • 확장하기 쉬운 데이터베이스 옵션 - 노트북에서 병렬화된 클러스터까지 통합된 데이터 저장소
• 멀티-모달 에이전트, DB설치 없이도 빠른 시작 가능(SQLite, FAISS), Postgres 연동(pgvector), GCUF 지원