14P by luckydaun 3달전 | favorite | 댓글과 토론
  • 수 백개의 AI 모델과 수십 개의 서비스 공급자들이 등장하고 있음.
  • 오픈라우터는 150개 이상의 모델 중 토큰 출력 성능 또는 가격을 중심으로 최적의 모델을 고를 수 있도록 데이터와 API, 채팅 인터페이스를 제공함.
  • 하나의 표준 API만 배우면 모든 모델을 사용할 수 있음.
  • 어떤 LLM이 어떤 앱에서 사용되고 있는지, 어떤 카테고리의 프롬프트에 어떤 AI 모델이 사용되고 있는지를 확인할 수 있음.
  • 동일한 LLM에게 보내는 프롬프트를 여러 서비스 공급자에게 로드밸런싱, 라우팅할 수 있음.