▲GN⁺ 2024-07-04 | parent | ★ favorite | on: AI의 $600B(830조원) 질문(sequoiacap.com)Hacker News 의견 Jensen에 따르면 GPT-4 규모의 모델을 훈련시키려면 8000개의 H100 GPU가 90일 동안 필요함 Meta는 350,000개의 GPU를 보유하고 있어 매년 200개의 GPT-4 모델을 훈련시킬 수 있음 이는 AI 중심 회사의 실제 이익률을 0에 가깝게 만들 가능성이 있음 투자자에게는 나쁘지만, 개발자에게는 좋음 모델 출력 품질의 가장 중요한 요소는 훈련에 사용되는 독점 데이터임 주요 기술 회사들이 하드웨어에 막대한 투자를 하고 있음 이는 90년대 후반 Sun Microsystems와 Netscape에 투자하는 것과 비슷함 인터넷이 세상을 바꿀 것이라는 것은 알았지만, 어떻게 돈이 흐를지는 몰랐음 AI의 수익은 직접적인 것이 아니라 비용 절감과 생산성 향상에서 나옴 AI가 스타트업의 모든 측면에서 도움을 줌 생산성 향상에 너무 많은 초점이 맞춰져 있음 오락 가치에 더 많은 잠재력이 있음 현재는 어설픈 앱들이 돈을 벌고 있음 진정한 히트 제품이 무엇일지는 아직 모름 AI에 대한 투자가 성공할 가능성이 높음 인터넷과 모바일의 사례를 보면, 과대 광고가 사라진 후에 성공한 회사들이 많음 AI가 큰 경제적 가치를 창출할 것이라는 예측이 있음 그러나 이는 증거가 없는 강한 추측임 AI가 모든 것을 바꿀 것이라는 믿음이 있음 AI의 발전은 길고 험난할 것임 그러나 가치가 있을 것임 FTX 사건이 교훈이 되었을 수도 있음 LLMs는 기본적인 작업에서는 뛰어나지만, 복잡한 작업에서는 한계가 있음 사람들은 다른 사람을 비난하는 경향이 있음 고객 대면 역할보다는 엔터테인먼트와 예기치 않은 응용 분야에서 더 많이 사용될 것임 데이터센터 GPU가 모두 AI에 사용된다는 가정은 잘못됨 AI 비즈니스 모델이 API 사용료만 있는 것은 아님 AI는 이미 Google의 검색 및 광고 비즈니스에서 큰 역할을 하고 있음 OECD 국가들의 인구와 GDP를 고려할 때, AI에 대한 투자가 생산성을 크게 향상시킬 수 있음 그러나 현재의 투자를 빠르게 회수할 수 있을지는 의문임
Hacker News 의견
Jensen에 따르면 GPT-4 규모의 모델을 훈련시키려면 8000개의 H100 GPU가 90일 동안 필요함
주요 기술 회사들이 하드웨어에 막대한 투자를 하고 있음
AI의 수익은 직접적인 것이 아니라 비용 절감과 생산성 향상에서 나옴
생산성 향상에 너무 많은 초점이 맞춰져 있음
AI에 대한 투자가 성공할 가능성이 높음
AI가 큰 경제적 가치를 창출할 것이라는 예측이 있음
AI의 발전은 길고 험난할 것임
LLMs는 기본적인 작업에서는 뛰어나지만, 복잡한 작업에서는 한계가 있음
데이터센터 GPU가 모두 AI에 사용된다는 가정은 잘못됨
OECD 국가들의 인구와 GDP를 고려할 때, AI에 대한 투자가 생산성을 크게 향상시킬 수 있음