인공지능: 다가오는 혁명(AI: the coming revolution) 보고서

(coatue.com)

Cerebral Valley AI Summit 행사에서 Cortue Ventures의 Sri Viswanath가 발표한 AI 현황에 대한 내용입니다.
Cortue Ventures는 지금까지 10년 이상 AI 분야를 지켜보며 50개가 넘는 AI 관련 회사들에 투자한 투자 회사(VC)입니다.
특히, 이 보고서에는 HuggingFace, GitHub의 다양한 지표들을 분석하여 공개한 것이 특징입니다.
2002년이 AI의 폭발적인 성장을 불러온 해였다면, 2023년은 AI 파도(wave)가 형태를 갖추고 더 넓은 분야에 영향을 끼치기 시작한 해입니다.

오픈소스 연구, 데이터 및 커뮤니티는 AI 혁명의 핵심입니다. 트랜스포머 논문으로부터 최신 Llama-2 모델까지, 오픈소스는 엔지니어들이 AI를 반복적으로 개선하도록 했습니다.
하지만 모든 오픈소스가 진정으로 '열려(open)'있지는 않으며, 최근 회사들은 연구 내용이나 결과를 공개하지 않거나, 모델을 비공개로 유지하는 등의 움직임을 보였습니다.
그럼에도 불구하고, 우리는 오픈소스 AI 커뮤니티가 활기차게 성장하고 있는 것으로 보고 있습니다:
- 2023년 11월 기준으로, GitHub에서 20만 명 이상의 개발자들이 AI 프로젝트에 기여하고 있습니다.
- 또한, Hugging Face에는 30만 개 이상의 모델이 게시되었고, AI 관련 Discord 채널의 회원 수는 1800만 명을 넘어섰습니다.

밀려오는 AI의 물결은 서비스를 개발하는 기술 스택을 변화시키고 있습니다.
개발자와 투자자들은 각 스택의 구성 요소와 어떻게 상호작용하는지를 알아야 합니다.
지금까지는 AI 모델 레이어가 가장 큰 투자를 받았지만, AI를 위한 데이터 센터부터 최종 사용자의 앱까지 모든 곳에서 혁신이 일어날 것입니다.

우리는 모델이 "지능을 서비스로 제공하는"(IQaaS: intelligence-as-a-service) 시대를 시작했고, 승자는 인재, 데이터, 컴퓨팅 파워 경쟁에서 결정될 것으로 생각합니다.
모델의 성능을 확장하는 것은 또한 고품질 데이터셋을 확장하는 것을 의미합니다. 기존 대비 30% 크기의 가지치기(pruned) 및 큐레이션된 데이터셋으로 학습한 모델 또한 잘 동작하며, 합성 데이터와 사용자 피드백도 탐구할 잠재적인 분야입니다.

GPU와 같은 하드웨어 가속기는 AI 파워의 기초적인 부분을 담당하고 있습니다. GPU에 대한 끊임없는 수요는 전력망에 대한 스트레스부터 반도체 공급망의 성장 촉진, 클라우드 서비스에 대한 수요 재가속에 이르기까지 우리 전체 경제에 파급 효과를 불러일으켰습니다.
AI가 더욱 주류가 되면서, 우리는 추론(inference) 작업에서 발생하는 부하가 훨씬 더 컴퓨팅 집약적이 될 것으로 기대합니다. 1억 명의 GPT-4 사용자를 서비스하는 데 드는 비용은 모델을 훈련하는 데 소요된 비용의 4배가 될 수 있습니다.

2022년 AI의 폭발 이후 큰 변화 중 하나는 AI의 민주화와 AI 엔지니어의 부상으로, 모델을 학습하고 / 미세조정하고 / 배포하는 새로운 AI Ops 도구가 등장했습니다.
활발한 AI Ops 도구 계층의 등장으로 세계의 약 3000만 개발자가 AI에 접근할 수 있게 되었고, 이것은 애플리케이션 계층 내에서 폭발적인 잠재력을 창출할 수 있을 것으로 예상합니다.

우리는 AI 애플리케이션 채택이 이제 시작되고 있는 것으로 보고 있으며, 앞으로 더 많은 사용 사례가 등장할 것으로 예상하고 있습니다.
소비자와 기업의 AI에 대한 관심은 Runway, Tome과 같은 창의적 영역에서부터 Replit이나 Aurora Solar과 같은 전문 영역에 이르기까지 이미 탄력을 받고 있습니다.

앞으로 현실 세계에서 AI는 더 접근하기 쉽고, 확장 가능하며, 유용해질 것으로 예상합니다. 또한, 영어와 같은 자연어가 최고의 프로그래밍 언어가 될 것으로 예측합니다.
AI는 더 많은 사람들이 개발와 같이 소프트웨어를 개발할 수 있으며, 개개인의 데이터셋으로 AI를 학습시켜 헬스케어나 소매 분야 등에서 새로운 기능을 만들어 낼 것으로 예상합니다.
또한, 지속적인 연구를 통해 AI 모델이 계속 혁신하여 더 지능적이고 많은 능력을 갖출 것으로 기대하고 있습니다. 즉, 최고의 AI는 아직 오지 않았습니다.
단기적으로는 AI 모델 출력 환각을 해결하고, 다양한 멀티모달 사용 사례를 가능하게 하고, 비용을 줄이며, AI 배포를 더 쉽고 안전하게 만드는 것에 초점을 맞출 필요가 있어보입니다.
장기적으로는 AI 개발은 수십억 사용자에게 AI를 확장하기 위한 엔지니어링 영역의 도전이 될 것으로 생각합니다. 또한, AI 혁신가들이 우리 모두에게 유용한 AI를 만들어내는 새로운 능력을 개발할 것이라는 낙관적인 전망을 가지고 있습니다.