7P by neo 6달전 | favorite | 댓글 5개
  • OpenAI는 Google과 Anthropic을 포함한 모든 다른 모델 제공자들보다 더 많은 사용량을 가지고 있음
  • 이러한 회사들은 사용자 프롬프트와 명시적, 암시적 피드백을 포함한 대량의 데이터를 수집하여 미래의 모델 훈련에 도움을 줌
  • 이들 회사가 가진 주요한 장점은 인프라의 확장성과 서비스의 품질
  • GPT-3.5를 미세 조정하기 위해 OpenAI를 사용하는 비용은 Amazon의 p4d.24xlarge를 대여하는 것보다 3-8배 저렴
  • OpenAI의 비용은 모델 가중치를 훈련하고 저장하는 것, 미세 조정 인프라를 구축하고 유지하는 것, 수천 개의 GPU를 관리하는 데 필요한 전문 지식을 포함
  • 대부분의 조직들이 필요한 시간, 인력, 자금 때문에 자체 오픈소스 LLM 배포를 운영하는 것은 이치에 맞지 않는다는 이야기
  • 오픈소스 모델은 비용, 복잡성, 그리고 그것들을 맞춤화하고 실행하는 데 필요한 시간을 점점 적게 더 줄여가야 함
  • 가격이 결국 상승하더라도 OpenAI와 같은 메이저 LLM 제공 회사들이 극단적인 규모의 경제로 모델을 제공하는 능력 때문에 시장을 지배하게 될 것

제목만 보고 OpenAI를 경쟁에서 이기기 너무 쉽다는 줄 알았는데, 원문을 보니 OpenAI를 경쟁에서 이기기에 비용이 너무 저렴하다는 거였네요.. ㅎㅎㅎ

제목도 내용도 정 반대의 이야기를 하고있는데..어떻게 그렇게 이해하실수 있죠?

AI가 번역을 이상하게 해서 수작업으로 살짝 고쳐두었습니다.

원래는 'OpenAI를 이길 수 있는 것이 너무 저렴하다'라는 제목이었어요.