- a16z는 오픈소스 AI가 AI 생태계의 핵심 기반이라고 보고, 개발자들의 자원 격차를 줄이기 위해 Open Source AI Grant를 시작함
- 폐쇄형 모델과 경쟁하는 오픈소스 모델이 늘면서, 개인과 소규모 팀의 미세조정·최적화 작업이 모델 활용성을 끌어올리고 있음
- 지원 대상은 instruction-tuning, 검열 없는 LLM, 로컬 실행용 양자화, 추론 도구, LLM 보안 연구처럼 기술 경계를 넓히는 프로젝트임
- 오픈소스 AI는 모델 규모가 커질수록 미세조정에도 많은 GPU 컴퓨팅 자원이 필요해, 전통적 인프라 프로젝트보다 자원 부담이 큼
- 이 보조금은 투자나 SAFE note가 아니며, 수혜자는 재무적 수익 압박 없이 오픈소스 작업을 이어갈 수 있음
a16z Open Source AI Grant 발표
- a16z는 Open Source AI Grant program으로 소수의 오픈소스 개발자를 보조금 형태로 지원함
- 지원금은 투자나 SAFE note가 아니며, 개발자가 재무적 수익을 만들어야 한다는 압박 없이 작업을 계속하도록 돕는 구조임
- a16z는 번성하는 오픈소스 생태계가 AI의 미래를 만드는 데 필수적이라고 봄
폐쇄형 모델과 경쟁하는 오픈소스 AI
- 오픈소스 생태계에서는 폐쇄형 대안과 경쟁하는 오픈소스 모델이 등장하고 있음
- 수백 개의 소규모 팀과 개인이 모델을 더 유용하고 접근 가능하며 성능 좋게 만들기 위해 작업 중임
- 이런 프로젝트는 오픈소스 AI의 기술 수준을 끌어올리고, 기술에 대한 더 견고하고 포괄적인 이해를 돕는 역할을 함
GPU 자원이 병목이 되는 이유
- 프로젝트를 만드는 사람들은 작업을 끝까지 추진하거나 장기적으로 유지할 자원이 부족한 경우가 많음
- AI 프로젝트에서는 전통적 인프라보다 자원 문제가 더 크게 드러남
- 모델 미세조정에도 상당한 GPU 컴퓨팅 자원이 필요함
- 오픈소스 모델이 커질수록 필요한 자원도 함께 늘어남
보조금이 향하는 작업 영역
- 지원 대상은 오픈소스 AI 모델과 도구의 실용성을 높이는 여러 작업을 포함함
- 기본 LLM에 대한 instruction-tuning
- 검열 없는 LLM 미세조정
- 저전력 머신에서 모델을 실행하기 위한 최적화
- 모델 추론을 위한 새로운 도구 구축
- LLM 보안 이슈 연구
- 그 밖의 오픈소스 AI 관련 작업
첫 번째 보조금 수혜자와 프로젝트
- Jon Durbin (Airoboros): 합성 데이터 기반 LLM instruction-tuning
- Eric Hartford: 검열 없는 LLM 미세조정
- Jeremy Howard (fast.ai): 수직 애플리케이션을 위한 기반 모델 미세조정
- Tom Jobbins (TheBloke): 로컬 실행을 위한 LLM 양자화
- Woosuk Kwon and Zhuohan Li (vLLM): 고처리량 LLM 추론 라이브러리
- Nous Research: Nous Hermes와 Puffin 시리즈와 유사한 새로운 미세조정 언어 모델
- oobabooga: 로컬 LLM을 위한 웹 UI와 플랫폼
- Teknium: LLM 학습용 합성 데이터 파이프라인