• 미국 시장조사기관 CB Insights가 6월 21일 발행한 자료
  • 레거시 머신러닝 기업, 활력 잃음
    • DataRobot, Dataiku 같은 엔터프라이즈 머신러닝 개발 플랫폼은 과밀화된 시장서 고통
    • Dataiku는 2022년 12월 다운라운드, DataRobot은 수차례 구조조정
  • 기업은 생성형 AI 모멘텀 활용
    • Scale, Hugginf Face, Databricks 같은 기업은 생성형 AI에 모멘텀 확보하면서 인력 증가, 자금 조달 측면서 앞서감
    • Databricks, 제품 기능 확장 위해 2023년 6월 LLMOps 스타트업 MosaicML 13억 달러에 인수, 1년 뒤 데이터 관리 스타트업 Tabular 10억 달러 이상에 인수
  • 빅테크 기업, 새로운 스타트업과 함께 성장
    • 빅테크, 생성형 AI 시대 위한 제품군 구축
    • Google, Gemini 모델과 서드파티/오픈 모델에 액세스하도록 Vertex AI 개발 플랫폼 확장
    • AWS, 생성형 AI 개발 위한 Amazon Bedrock 관리형 서비스 발표
  • ROI 평가
    • AI 개발 플랫폼 기업 고객과 인터뷰해 ROI 평가 방법 확인: 생산성 향상, 비용 절감
    • 구매자는 아웃풋 증가(출시된 기능 수), 작업 속도, 전반적인 팀 효율성 등 생산성 향상 측정 위해 구체적인 지표 살펴봄
    • 생산성 향상과 밀접한 관련이 있는 것: AI 도구에 따른 직접적인 비용 절감
  • 엔터프라이즈 AI 개발 미래
    • 생성형 AI는 아직 엔터프라이즈 도입 초기 단계
    • 가장 일반적인 사용 사례: 콘텐츠 제작, 기업 지원 보조, 자연어 검색, 설계와 데이터 생성, 코드 생성, 문서 자동화
    • CB Insights 데이터와 구매자 인터뷰 기반 6가지 시사점
      • 독점 데이터 활용하면 차별화된 사용 사례 가능
      • 빅테크 기업 이점: 규모, 인프라, 기존 고객 관계
      • 엔터프라이즈, 오픈 소스 모델 탐색해야 하는 압박 직면
      • 작업별 모델 채택 증가
        • 소규모 언어 모델(SLM), 일반 모델보다 학습 속도가 빠르고 실행 비용 저렴
        • 특정 작업에만 사용하면 성능이 기업에 충분, 경우에 따라 LLM보다 더 뛰어날 수도 있음
        • 데이터 프라이버시와 보안 향상에 잠재력 있음
      • 생성형 AI 분야가 성숙해지면서 통합 다가옴(예: M&A)
      • 엔터프라이즈 AI 지출 더 엄격히 관리