10P by xguru 4달전 | favorite | 댓글과 토론
  • 오픈소스 RAG(검색 증강 생성) 파이프라인
    • LLM, 벡터 메모리, 임베딩 생성, 재랭크, 요약 및 사용자 정의 모델을 단일 쿼리로 결합
    • 성능을 극대화하고 검색 아키텍처를 간소화
  • Postgres 기반으로 구축. Python, Javascript, Rust, C 용 바인딩 제공
    • PostgresML의 pgml 확장과 pgvector 확장을 사용하여 전체 RAG 파이프라인을 PostgreSQL 내에서 압축함
  • 인프라 문제를 최소화 하면서 고성능 사용자 정의 검색 기능을 제공

주요 기능

  • 복잡한 서비스 지향 아키텍처를 단일 강력한 쿼리로 대체하여 아키텍처 단순화
  • API 호출과 데이터 이동을 제거하여 더 빠른 처리와 향상된 안정성 제공
  • 오픈소스 소프트웨어와 Docker에서도 로컬로 실행되는 모델을 사용하여 개발자 경험 개선
  • Python, JavaScript, Rust 등 다양한 언어 지원
  • 임베딩 생성, 벡터 검색, 재순위화, 텍스트 생성을 하나의 쿼리로 통합
  • 내부적으로 시간이 검증된 데이터베이스 플랫폼에서 효율적인 SQL 쿼리로 Korvus 연산 수행

SQL의 힘

  • Korvus는 여러 프로그래밍 언어로 고수준 인터페이스를 제공하지만, 핵심 연산은 최적화된 SQL 쿼리에 기반함
  • 고급 사용자는 기본 쿼리를 검사하고 이해할 수 있음
  • SQL 연산을 수정하거나 추가하여 Korvus의 기능을 확장할 수 있음
  • PostgreSQL의 고급 쿼리 최적화 기능의 이점을 누릴 수 있음