# AI의 $600B(830조원) 질문

> Clean Markdown view of GeekNews topic #15680. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=15680](https://news.hada.io/topic?id=15680)
- GeekNews Markdown: [https://news.hada.io/topic/15680.md](https://news.hada.io/topic/15680.md)
- Type: GN+
- Author: [neo](https://news.hada.io/@neo)
- Published: 2024-07-04T14:33:19+09:00
- Updated: 2024-07-04T14:33:19+09:00
- Original source: [sequoiacap.com](https://www.sequoiacap.com/article/ais-600b-question/)
- Points: 10
- Comments: 1

## Summary

AI 버블이 변곡점에 도달하면서, AI 인프라 구축과 실제 수익 사이의 격차가 커지고 있습니다. Nvidia의 새로운 B100 칩과 같은 기술 혁신이 등장하면서 AI의 경제적 가치는 더욱 증가할 것으로 예상됩니다. 그러나 AGI가 곧 올 것이라는 착각에 빠지지 말고, 장기적인 관점에서 AI의 발전을 바라보는 것이 중요합니다.

## Topic Body

- AI 버블이 변곡점에 도달하고 있음. 앞으로의 변화에 대처하는 것이 중요할 것임  
- 2023년 9월, "AI의 $200B 질문"이라는 글을 발표했음. 이 글의 목적은 "수익은 어디에 있는가?"라는 질문을 하는 것이었음  
  - 당시 AI 인프라 구축에 내포된 수익 기대치와 AI 생태계의 실제 수익 증가 사이에 큰 격차가 있음을 발견했음. 이를 "오늘날 수준의 CapEx에 대해 매년 채워야 할 1250억 달러의 구멍"이라고 표현했음  
  - 최근 엔비디아가 세계에서 가장 가치 있는 회사가 되었음. 이에 앞서 많은 사람들이 나의 분석 결과에 대해 문의했음. AI의 2000억 달러 문제가 해결되었는지, 아니면 악화되었는지에 대해 궁금해 했음  
- 오늘 이 분석을 다시 실행하면 다음과 같은 결과를 얻게 됨:   
  - **AI의 $200B(260조원) 문제는 이제 $600B(830조원) 문제가 되었음**  
  - 엔비디아의 연간 매출 예측치를 가져와 2배를 곱하면 AI 데이터 센터의 총 비용을 반영할 수 있음 (GPU는 총 소유 비용의 절반을 차지함. 나머지 절반은 에너지, 건물, 백업 발전기 등을 포함함).  
  - 그런 다음 다시 2배를 곱하여 GPU 최종 사용자의 50% 총 마진을 반영함 (예: Azure, AWS 또는 GCP에서 AI 컴퓨팅을 구매하는 스타트업이나 기업도 수익을 내야 함)  
  
#### 변화된 사항  
1. **공급 부족 해소**  
   - 2023년 말 GPU 공급 부족이 최고조에 달함  
   - 현재는 GPU를 쉽게 구할 수 있음  
  
2. **GPU 재고 증가**  
   - Nvidia의 데이터 센터 수익의 절반이 대형 클라우드 제공자로부터 옴  
   - Microsoft가 Nvidia의 Q4 수익의 약 22%를 차지함  
   - 하이퍼스케일 CapEx가 역사적 수준에 도달함  
  
3. **OpenAI의 수익 점유율**  
   - OpenAI의 수익이 2023년 말 16억 달러에서 현재 34억 달러로 증가함  
   - ChatGPT 외에 소비자들이 실제로 사용하는 AI 제품이 많지 않음  
  
4. **1250억 달러의 구멍이 5000억 달러의 구멍이 되다**  
   - Google, Microsoft, Apple, Meta가 각각 연간 100억 달러의 새로운 AI 관련 수익을 창출할 것으로 가정함  
   - Oracle, ByteDance, Alibaba, Tencent, X, Tesla가 각각 50억 달러의 새로운 AI 수익을 창출할 것으로 가정함  
   - 이 가정이 맞더라도 1250억 달러의 구멍이 이제 5000억 달러로 확대됨  
  
5. **B100의 등장**  
   - Nvidia가 B100 칩을 발표함  
   - B100은 H100보다 2.5배 더 나은 성능을 제공하며 비용은 25%만 증가함  
   - B100에 대한 수요가 급증할 것으로 예상됨  
  
#### 주요 반론 (과거 인프라 구축때와의 차이점)  
  
1. **가격 결정력 부족**  
   - 물리적 인프라와 달리 GPU 데이터 센터는 가격 결정력이 적음  
   - GPU 컴퓨팅은 점점 더 상품화되어 시간당 계량되고 있음  
  
2. **투자 소각**  
   - 철도와 같은 물리적 인프라와 마찬가지로 투기적 투자 열풍은 자본 소각률이 높음  
   - 시장을 움직이는 엔진들에 따르면 철도에 초점을 맞춘 많은 사람들이 투기적 기술 물결 동안 많은 돈을 잃음  
  
3. **감가상각**  
   - 반도체는 시간이 지남에 따라 성능이 향상됨  
   - Nvidia는 계속해서 더 나은 차세대 칩을 생산할 것임  
   - 이는 이전 세대 칩의 더 빠른 감가상각으로 이어질 것  
  
4. **승자와 패자**  
   - AI는 다음 변혁적인 기술 물결이 될 가능성이 큼  
   - GPU 컴퓨팅 가격 하락은 장기적으로 혁신과 스타트업에 좋음  
  
#### 결론  
- AI는 엄청난 경제적 가치를 창출할 것임  
- Nvidia는 이 전환을 가능하게 한 역할로 큰 공로를 인정받아야 함  
- 투기적 열풍은 기술의 일부이며, 이를 두려워할 필요는 없음  
- AGI가 곧 올 것이라는 착각에 빠지지 말아야 함  
- 앞으로의 길은 길고 기복이 있을 것이지만, 거의 확실히 가치가 있을 것임  
  
#### GN⁺의 의견  
- AI는 엄청난 경제적 가치를 창출할 것임. 최종 사용자에게 가치를 제공하는 데 중점을 둔 회사 설립자들은 큰 보상을 받게 될 것임  
- 투기적 열풍은 기술의 일부이므로 두려워할 필요가 없음. 이 순간을 평정심 있게 지나가는 사람들은 매우 중요한 회사를 만들 기회를 갖게 됨  
- 하지만 실리콘밸리에서 전국으로, 실제로 전 세계로 퍼진 망상을 믿지 않도록 주의해야 함.   
  - 그 "망상"은 우리 모두가 빨리 부자가 될 것이라고 말하는데, 그 이유는 AGI가 내일 올 것이고 우리 모두는 유일하게 가치 있는 자원인 GPU를 비축해야 하기 때문  
  - AGI가 곧 올 것이라는 착각에 빠지지 말아야 함  
- 실제로 앞으로의 길은 길 것임. 기복이 있겠지만 거의 확실히 그만한 가치가 있을 것

## Comments



### Comment 26957

- Author: neo
- Created: 2024-07-04T14:33:20+09:00
- Points: 1

###### [Hacker News 의견](https://news.ycombinator.com/item?id=40869461) 
- Jensen에 따르면 GPT-4 규모의 모델을 훈련시키려면 8000개의 H100 GPU가 90일 동안 필요함
  - Meta는 350,000개의 GPU를 보유하고 있어 매년 200개의 GPT-4 모델을 훈련시킬 수 있음
  - 이는 AI 중심 회사의 실제 이익률을 0에 가깝게 만들 가능성이 있음
  - 투자자에게는 나쁘지만, 개발자에게는 좋음
  - 모델 출력 품질의 가장 중요한 요소는 훈련에 사용되는 독점 데이터임

- 주요 기술 회사들이 하드웨어에 막대한 투자를 하고 있음
  - 이는 90년대 후반 Sun Microsystems와 Netscape에 투자하는 것과 비슷함
  - 인터넷이 세상을 바꿀 것이라는 것은 알았지만, 어떻게 돈이 흐를지는 몰랐음

- AI의 수익은 직접적인 것이 아니라 비용 절감과 생산성 향상에서 나옴
  - AI가 스타트업의 모든 측면에서 도움을 줌

- 생산성 향상에 너무 많은 초점이 맞춰져 있음
  - 오락 가치에 더 많은 잠재력이 있음
  - 현재는 어설픈 앱들이 돈을 벌고 있음
  - 진정한 히트 제품이 무엇일지는 아직 모름

- AI에 대한 투자가 성공할 가능성이 높음
  - 인터넷과 모바일의 사례를 보면, 과대 광고가 사라진 후에 성공한 회사들이 많음

- AI가 큰 경제적 가치를 창출할 것이라는 예측이 있음
  - 그러나 이는 증거가 없는 강한 추측임
  - AI가 모든 것을 바꿀 것이라는 믿음이 있음

- AI의 발전은 길고 험난할 것임
  - 그러나 가치가 있을 것임
  - FTX 사건이 교훈이 되었을 수도 있음

- LLMs는 기본적인 작업에서는 뛰어나지만, 복잡한 작업에서는 한계가 있음
  - 사람들은 다른 사람을 비난하는 경향이 있음
  - 고객 대면 역할보다는 엔터테인먼트와 예기치 않은 응용 분야에서 더 많이 사용될 것임

- 데이터센터 GPU가 모두 AI에 사용된다는 가정은 잘못됨
  - AI 비즈니스 모델이 API 사용료만 있는 것은 아님
  - AI는 이미 Google의 검색 및 광고 비즈니스에서 큰 역할을 하고 있음

- OECD 국가들의 인구와 GDP를 고려할 때, AI에 대한 투자가 생산성을 크게 향상시킬 수 있음
  - 그러나 현재의 투자를 빠르게 회수할 수 있을지는 의문임