10P by xguru 2023-05-13 | favorite | 댓글과 토론
  • OpenAI의 API와 똑같은 파라미터로 HuggingFace, Cohere 및 자신의 모델등 다른 LLM을 호출 가능
  • 현재는 Completion Endpoint만 지원하지만, Streaming/Embeddings 같은 엔드포인트도 추가예정
  • 기존 코드에 import openlm as openai 해서 그대로 이용 가능