16P by neo with xguru 21일전 | favorite | 댓글과 토론

주요 내용 요약

  • Llama 모델은 현재까지 약 3억 5천만 건의 다운로드를 기록하여 작년 동기 대비 10배 이상 증가. 지난 한 달 동안만 2천만 회 이상 다운로드 되어 Llama는 주요 오픈 소스 모델 패밀리로 자리 잡음
  • Llama의 주요 클라우드 서비스 공급업체 파트너 전반에 걸친 토큰 볼륨 사용량은 Llama 3.1을 출시한 2024년 5월부터 7월까지 불과 3개월 만에 2배 이상 증가했음
  • 일부 대형 클라우드 서비스 제공업체의 경우 2024년 1월부터 7월까지 Llama의 월간 사용량(토큰 볼륨)이 10배 증가했음

Llama 3.1 출시 후 생태계 성장

  • Llama 3.1 출시와 함께 컨텍스트 길이를 128K로 확장하고, 8개 언어를 지원하며, Llama 3.1 405B로 최초의 프론티어급 오픈 소스 AI 모델을 도입했음
  • 오픈 소스 모델로서의 Llama의 성공은 기업의 다양한 규모에서의 혁신을 촉진함. 스타트업부터 대기업에 이르기까지 Llama를 사용하여 온프레미스 또는 클라우드 서비스를 통해 솔루션을 구축 중임
  • Llama 모델을 공개적으로 제공함으로써 활기차고 다양한 AI 생태계가 탄생했으며, 개발자들은 그 어느 때보다 더 많은 선택권과 역량을 갖게 되었음
  • Llama는 18개월 만에 단일 기초 모델에서 개발자들을 위한 완전한 참조 시스템으로 발전함. Llama 3.1은 개발자들이 맞춤형 에이전트를 쉽게 만들 수 있도록 돕는 보안 및 안전 도구를 포함하고 있음

오픈 소스에 대한 메타의 비전과 약속

  • Llama 3.1 출시와 함께 마크 저커버그는 오픈 소스 AI의 장점에 대한 공개 서한을 공유하며 오픈 접근 방식에 대한 비전과 약속을 더욱 공고히 했음
  • 오픈 소스는 메타의 DNA에 새겨져 있으며, Llama는 책임감 있는 방식으로 연구 결과를 공유하겠다는 약속을 구현하고 강화하고 있음
  • 오픈 소스는 소비자, 기업(메타 포함), 궁극적으로 세계에 좋은 보다 경쟁력 있는 생태계를 촉진함

선도적인 오픈 소스 모델로 성장

  • Llama 생태계가 급속도로 성장하고 있음. Llama 모델은 Hugging Face에서 현재까지 약 3억 5천만 건의 다운로드를 기록하고 있으며, 이는 약 1년 전 대비 10배 이상 증가한 수치임
  • 지난 달에만 Hugging Face에서 2천만 회 이상 다운로드되었음. 이는 Llama 성공 스토리의 한 부분일 뿐이며, 파트너사의 서비스를 통해서도 다운로드되고 있음
  • 주요 클라우드 서비스 제공 파트너 전반에 걸쳐 호스팅된 Llama 사용량(토큰 볼륨)이 2024년 5월부터 7월까지 Llama 3.1 출시 이후 2배 이상 증가했음

파트너십 확대 및 수요 급증

  • Llama 3.1과 함께 초기 액세스 프로그램의 파트너 수가 5배 증가했으며, 파트너로부터의 수요 급증에 부응하기 위해 더 많은 노력을 기울일 예정임
  • Wipro, Cerebras, Lambda 등 많은 기업들이 향후 LEAP 및 Llama 통합 파트너가 되기를 희망하고 있음

Llama의 다양한 적용 사례

  • Accenture: ESG 보고를 위한 맞춤형 LLM 구축에 Llama 3.1을 사용하여 기존 방식 대비 생산성 70%, 품질 20-30% 개선 기대
  • AT&T: Llama 모델 파인튜닝을 통해 고객 관리 개선. GenAI 도입으로 AT&T 고객 관리 관련 검색 응답이 약 33% 개선되었으며 비용 절감 및 응답 시간 단축
  • DoorDash: 소프트웨어 엔지니어의 일상 업무 간소화 및 가속화를 위해 Llama 사용
  • Goldman Sachs: GS AI Platform을 통해 엔지니어들이 Llama 모델을 안전하고 책임감 있게 다양한 사용 사례에 활용
  • Niantic: AR 게임 Peridot의 가상 세계를 구현하기 위해 Llama 통합. 실시간 반응 생성으로 역동적이고 고유한 상호작용 제공
  • Nomura: AWS의 Llama를 사용하여 혁신 속도 향상, 투명성, 편향 방지, 강력한 성능 등 주요 이점 확보
  • Shopify: LLaVA를 기반으로 한 Llama 등 최고 수준의 오픈 소스 모델 실험 지속. 현재 제품 메타데이터 및 개선 작업을 지원하기 위해 하루 4천만~6천만 건의 LLaVA 추론 수행 중
  • Zoom: 자체 모델과 Llama를 포함한 폐쇄형 및 오픈 소스 LLM을 사용하여 AI 컴패니언 구동. 사용자에게 미팅 요약, 스마트 녹음, 후속 조치 등을 제공

활성화된 오픈 시스템

  • Llama는 개방성, 수정 가능성, 비용 효율성 측면에서 선도적인 역할을 하고 있음
  • AI의 혜택이 모든 사람에게 확대되도록 하기 위해 오픈 소스로 구축하는 데 전념하고 있음
  • LLM은 어려운 질문에 답하고, 생산성을 높이며, 창의성을 불러일으키는 데 도움이 될 수 있음. Llama 생태계가 확장됨에 따라 Meta AI의 기능과 접근성도 확대되고 있음

GN⁺의 의견

  • Llama의 빠른 성장과 채택은 오픈 소스 AI 모델에 대한 수요가 높아지고 있음을 보여줌. 기업들은 비용 효율적이면서도 높은 품질의 AI 모델을 원하고 있으며, Llama가 이를 충족시키고 있음
  • 다만 오픈 소스 모델 사용 시 편향성, 윤리성, 보안 등의 이슈를 고려해야 함. 기업들은 이를 위한 거버넌스 체계를 마련하고, 모델 사용에 대한 가이드라인을 수립할 필요가 있음
  • 경쟁이 치열한 AI 모델 시장에서 Llama의 개방적 접근 방식은 상업 모델과 비교해 품질 면에서 뒤처지지 않음을 입증하고 있음
  • Llama의 빠른 채택과 높은 인기는 AI 및 개발 커뮤니티에서 오픈 소스의 가치와 영향력을 다시 한번 확인시켜 줌. 이는 앞으로의 AI 개발 방향에 중요한 영향을 미칠 수 있음
  • 향후 Llama와 같은 오픈 소스 모델과 API 기반 모델이 상호 보완적으로 발전해 나갈 것으로 예상됨. 기업들은 자신들의 니즈에 맞는 적절한 모델을 선택하고, 이를 효과적으로 활용할 수 있는 역량을 갖추는 것이 중요할 것임