▲

GN⁺: AI의 $600B(830조원) 질문

 (sequoiacap.com)
10P by neo 5달전 | favorite | 댓글 1개
  • AI 버블이 변곡점에 도달하고 있음. 앞으로의 변화에 대처하는 것이 중요할 것임
  • 2023년 9월, "AI의 $200B 질문"이라는 글을 발표했음. 이 글의 목적은 "수익은 어디에 있는가?"라는 질문을 하는 것이었음
    • 당시 AI 인프라 구축에 내포된 수익 기대치와 AI 생태계의 실제 수익 증가 사이에 큰 격차가 있음을 발견했음. 이를 "오늘날 수준의 CapEx에 대해 매년 채워야 할 1250억 달러의 구멍"이라고 표현했음
    • 최근 엔비디아가 세계에서 가장 가치 있는 회사가 되었음. 이에 앞서 많은 사람들이 나의 분석 결과에 대해 문의했음. AI의 2000억 달러 문제가 해결되었는지, 아니면 악화되었는지에 대해 궁금해 했음
  • 오늘 이 분석을 다시 실행하면 다음과 같은 결과를 얻게 됨:
    • AI의 $200B(260조원) 문제는 이제 $600B(830조원) 문제가 되었음
    • 엔비디아의 연간 매출 예측치를 가져와 2배를 곱하면 AI 데이터 센터의 총 비용을 반영할 수 있음 (GPU는 총 소유 비용의 절반을 차지함. 나머지 절반은 에너지, 건물, 백업 발전기 등을 포함함).
    • 그런 다음 다시 2배를 곱하여 GPU 최종 사용자의 50% 총 마진을 반영함 (예: Azure, AWS 또는 GCP에서 AI 컴퓨팅을 구매하는 스타트업이나 기업도 수익을 내야 함)

변화된 사항

  1. 공급 부족 해소

    • 2023년 말 GPU 공급 부족이 최고조에 달함
    • 현재는 GPU를 쉽게 구할 수 있음

  2. GPU 재고 증가

    • Nvidia의 데이터 센터 수익의 절반이 대형 클라우드 제공자로부터 옴
    • Microsoft가 Nvidia의 Q4 수익의 약 22%를 차지함
    • 하이퍼스케일 CapEx가 역사적 수준에 도달함

  3. OpenAI의 수익 점유율

    • OpenAI의 수익이 2023년 말 16억 달러에서 현재 34억 달러로 증가함
    • ChatGPT 외에 소비자들이 실제로 사용하는 AI 제품이 많지 않음

  4. 1250억 달러의 구멍이 5000억 달러의 구멍이 되다

    • Google, Microsoft, Apple, Meta가 각각 연간 100억 달러의 새로운 AI 관련 수익을 창출할 것으로 가정함
    • Oracle, ByteDance, Alibaba, Tencent, X, Tesla가 각각 50억 달러의 새로운 AI 수익을 창출할 것으로 가정함
    • 이 가정이 맞더라도 1250억 달러의 구멍이 이제 5000억 달러로 확대됨

  5. B100의 등장

    • Nvidia가 B100 칩을 발표함
    • B100은 H100보다 2.5배 더 나은 성능을 제공하며 비용은 25%만 증가함
    • B100에 대한 수요가 급증할 것으로 예상됨

주요 반론 (과거 인프라 구축때와의 차이점)

  1. 가격 결정력 부족

    • 물리적 인프라와 달리 GPU 데이터 센터는 가격 결정력이 적음
    • GPU 컴퓨팅은 점점 더 상품화되어 시간당 계량되고 있음

  2. 투자 소각

    • 철도와 같은 물리적 인프라와 마찬가지로 투기적 투자 열풍은 자본 소각률이 높음
    • 시장을 움직이는 엔진들에 따르면 철도에 초점을 맞춘 많은 사람들이 투기적 기술 물결 동안 많은 돈을 잃음

  3. 감가상각

    • 반도체는 시간이 지남에 따라 성능이 향상됨
    • Nvidia는 계속해서 더 나은 차세대 칩을 생산할 것임
    • 이는 이전 세대 칩의 더 빠른 감가상각으로 이어질 것

  4. 승자와 패자

    • AI는 다음 변혁적인 기술 물결이 될 가능성이 큼
    • GPU 컴퓨팅 가격 하락은 장기적으로 혁신과 스타트업에 좋음

결론

  • AI는 엄청난 경제적 가치를 창출할 것임
  • Nvidia는 이 전환을 가능하게 한 역할로 큰 공로를 인정받아야 함
  • 투기적 열풍은 기술의 일부이며, 이를 두려워할 필요는 없음
  • AGI가 곧 올 것이라는 착각에 빠지지 말아야 함
  • 앞으로의 길은 길고 기복이 있을 것이지만, 거의 확실히 가치가 있을 것임

GN⁺의 의견

  • AI는 엄청난 경제적 가치를 창출할 것임. 최종 사용자에게 가치를 제공하는 데 중점을 둔 회사 설립자들은 큰 보상을 받게 될 것임
  • 투기적 열풍은 기술의 일부이므로 두려워할 필요가 없음. 이 순간을 평정심 있게 지나가는 사람들은 매우 중요한 회사를 만들 기회를 갖게 됨
  • 하지만 실리콘밸리에서 전국으로, 실제로 전 세계로 퍼진 망상을 믿지 않도록 주의해야 함.
    • 그 "망상"은 우리 모두가 빨리 부자가 될 것이라고 말하는데, 그 이유는 AGI가 내일 올 것이고 우리 모두는 유일하게 가치 있는 자원인 GPU를 비축해야 하기 때문
    • AGI가 곧 올 것이라는 착각에 빠지지 말아야 함
  • 실제로 앞으로의 길은 길 것임. 기복이 있겠지만 거의 확실히 그만한 가치가 있을 것
▲
neo 5달전  [-]
Hacker News 의견

  • Jensen에 따르면 GPT-4 규모의 모델을 훈련시키려면 8000개의 H100 GPU가 90일 동안 필요함

    • Meta는 350,000개의 GPU를 보유하고 있어 매년 200개의 GPT-4 모델을 훈련시킬 수 있음
    • 이는 AI 중심 회사의 실제 이익률을 0에 가깝게 만들 가능성이 있음
    • 투자자에게는 나쁘지만, 개발자에게는 좋음
    • 모델 출력 품질의 가장 중요한 요소는 훈련에 사용되는 독점 데이터임

  • 주요 기술 회사들이 하드웨어에 막대한 투자를 하고 있음

    • 이는 90년대 후반 Sun Microsystems와 Netscape에 투자하는 것과 비슷함
    • 인터넷이 세상을 바꿀 것이라는 것은 알았지만, 어떻게 돈이 흐를지는 몰랐음

  • AI의 수익은 직접적인 것이 아니라 비용 절감과 생산성 향상에서 나옴

    • AI가 스타트업의 모든 측면에서 도움을 줌

  • 생산성 향상에 너무 많은 초점이 맞춰져 있음

    • 오락 가치에 더 많은 잠재력이 있음
    • 현재는 어설픈 앱들이 돈을 벌고 있음
    • 진정한 히트 제품이 무엇일지는 아직 모름

  • AI에 대한 투자가 성공할 가능성이 높음

    • 인터넷과 모바일의 사례를 보면, 과대 광고가 사라진 후에 성공한 회사들이 많음

  • AI가 큰 경제적 가치를 창출할 것이라는 예측이 있음

    • 그러나 이는 증거가 없는 강한 추측임
    • AI가 모든 것을 바꿀 것이라는 믿음이 있음

  • AI의 발전은 길고 험난할 것임

    • 그러나 가치가 있을 것임
    • FTX 사건이 교훈이 되었을 수도 있음

  • LLMs는 기본적인 작업에서는 뛰어나지만, 복잡한 작업에서는 한계가 있음

    • 사람들은 다른 사람을 비난하는 경향이 있음
    • 고객 대면 역할보다는 엔터테인먼트와 예기치 않은 응용 분야에서 더 많이 사용될 것임

  • 데이터센터 GPU가 모두 AI에 사용된다는 가정은 잘못됨

    • AI 비즈니스 모델이 API 사용료만 있는 것은 아님
    • AI는 이미 Google의 검색 및 광고 비즈니스에서 큰 역할을 하고 있음

  • OECD 국가들의 인구와 GDP를 고려할 때, AI에 대한 투자가 생산성을 크게 향상시킬 수 있음

    • 그러나 현재의 투자를 빠르게 회수할 수 있을지는 의문임
답변달기