▲

IBM CEO, “AI 데이터센터 투자가 수익으로 돌아올 가능성은 없다”

 (businessinsider.com)
5P by GN⁺ 5시간전 | ★ favorite | 댓글 2개
  • 글로벌 AI 기업들의 데이터센터 투자 급증에 대해 IBM CEO 아르빈드 크리슈나가 수익성에 강한 의문을 제기
  • 그는 현재 비용 기준으로 1기가와트 데이터센터 구축에 약 800억 달러가 필요하며, 주요 기업들이 20~30기가와트를 추진 중이라고 언급
  • 전 세계적으로 약 100기가와트 규모의 AI 인프라 투자가 진행 중이며, 총액은 8조 달러에 달한다고 계산
  • 크리슈나는 AI 칩의 5년 감가상각과 막대한 자본비용을 고려할 때, 연간 8천억 달러의 이익이 필요하지만 현실적으로 불가능하다고 평가
  • 그는 현재 기술로는 AGI(범용 인공지능) 달성 가능성이 0~1%에 불과하다고 보며, LLM만으로는 한계가 있다고 강조

AI 데이터센터 투자 급증과 수익성 논란

  • 주요 AI 기업들이 AGI 경쟁 속에서 데이터센터에 수십억 달러를 투입 중
    • Meta는 최근 실적 발표에서 “용량(capacity)”과 “AI 인프라”를 반복 언급
    • Google은 장기적으로 우주 기반 데이터센터 건설 계획을 발표
  • 크리슈나는 “이런 투자가 수익으로 돌아올 가능성은 거의 없다”고 발언
    • 그는 “오늘 기준의 계산”이라며, 미래 비용은 불확실하다고 전제

크리슈나의 비용 계산과 수익성 분석

  • 1기가와트 데이터센터 구축에 약 800억 달러가 필요하다고 설명
    • 한 기업이 20~30기가와트를 추진하면 1.5조 달러의 자본지출(capex) 발생
  • 전 세계적으로 약 100기가와트 규모의 투자가 진행 중이며, 총액은 8조 달러 수준
    • 이 경우 연간 8천억 달러의 이익이 있어야 이자만 감당 가능
  • 그는 “이런 수익을 낼 방법은 없다”고 단언

감가상각과 투자 리스크

  • AI 칩의 5년 감가상각을 주요 리스크로 지적
    • “5년 후에는 칩을 버리고 다시 채워야 한다”고 언급
  • 투자자 마이클 버리도 Nvidia 감가상각 문제를 지적하며 AI 주가 하락을 촉발
  • 크리슈나는 이러한 감가상각 구조가 ROI(투자수익률) 를 더욱 악화시킨다고 평가

AGI 달성 가능성에 대한 회의

  • 크리슈나는 현재 기술로 AGI 달성 확률을 0~1% 로 제시
    • “추가적인 기술적 돌파구 없이는 불가능”하다고 언급
  • 그는 LLM(대형 언어 모델) 만으로는 한계가 있으며, ‘하드 지식’과의 융합이 필요하다고 제안
  • OpenAI의 일론 서츠케버도 “스케일링의 시대는 끝났다”며 연구 중심 전환을 강조

업계 내 다른 회의적 시각

  • Marc Benioff는 AGI 추진을 “최면과 같다”고 표현하며 회의적 태도
  • Andrew Ng은 AGI가 “과대평가됐다”고 발언
  • Mistral CEO Arthur Mensch는 AGI를 “마케팅 전략”으로 규정

IBM CEO의 최종 평가

  • 크리슈나는 현재 AI 도구들이 기업 생산성에서 수조 달러 규모의 가치를 창출할 것이라고 평가
  • 그러나 AGI 달성을 위해서는 현재 LLM 경로를 넘어선 기술적 진전이 필요하다고 강조
  • “그렇게 해도 가능성은 ‘아마도(maybe)’ 수준”이라며 신중한 입장 유지
▲
love7peace 2시간전  [-]

내 생각이랑 거의 같구만... 우리는 걍 메모리 많이 팔아먹으면 그만이긴 함

답변달기
▲
GN⁺ 5시간전  [-]
Hacker News 의견

  • 1958년 IBM이 xerography 기술을 놓치고, 10년 뒤 미니컴퓨터를 무시했으며, 또 10년 뒤 Apple II를 과소평가했다는 스티브 잡스의 말을 인용함
    지금 IBM CEO가 “AI 데이터센터 투자는 수익이 안 난다”고 말하는 걸 보면, IBM은 여전히 미래를 잘 못 읽는 듯함
    관련 자료: Steve Jobs 1983 Keynote, Xerox 발명사

    • IBM은 1975년에 이미 IBM 5100이라는 개인용 컴퓨터를 출시했음. 문제는 가격이 너무 비쌌다는 점임
      이후 IBM PC(5150)는 상용 부품을 써서 가격을 낮췄고, 그게 성공의 비결이었음
      IBM 5100 위키
    • 이런 과거 사례들이 지금 CEO의 판단과 무슨 관련이 있는지 모르겠음
    • 메시지보다 메신저에 집중하는 건 의미 없다고 봄. Xerox는 이미 한물갔고, IBM은 여전히 3000억 달러 규모의 기업임
      Apple II도 기업 시장에서는 영향이 미미했음. 게다가 이건 50년 전 이야기로, 지금의 AI 투자 수익률(ROI) 논의와는 별개임
    • DEC는 사라졌고 Xerox는 IBM 시가총액의 1/1000 수준임. IBM의 PC 아키텍처 개방성은 오히려 시장을 지배하게 만든 요인이었음

  • IBM CEO가 “AI 칩은 5년 지나면 버려야 한다”고 말했는데, 그건 너무 단정적인 가정 같음
    하드웨어가 5년 지나도 안정적이라면, 구형 모델을 저가로 돌려 수익을 낼 여지가 있음

    • Michael Burry는 오히려 5년이 너무 관대한 감가상각 기간이라고 주장함. 실제로는 2~3년이 맞다고 함
      Burry의 트윗
    • 서버 하드웨어의 표준 감가상각 기간이 5년이라서 GPU만의 문제는 아님
    • 구형 서버도 잘 작동하지만, 전력 효율 때문에 최신 기술 대비 경제성이 떨어짐
    • 암호화폐 채굴 사례처럼 GPU 수요는 ASIC 등장으로 교체 주기가 빨라질 수 있음.
      결국 5년 주기는 투자 판단에 큰 영향을 줄 것임
    • 경쟁사가 더 효율적인 칩을 쓰면, 결국 구형 하드웨어를 버리고 업그레이드해야 함

  • AI 데이터센터 투자가 전부 실현되긴 어렵다고 봄. 전력 수요만으로도 한계가 있음

    • 서방 국가들은 전력 예비율이 낮지만, 중국은 100% 예비율을 유지해 수요 급증에도 대응 가능함
    • 하지만 CEO들이 이미 충분히 조사했을 텐데, 그보다 더 잘 안다고 말하기는 어려움

  • Gartner는 2025년 전 세계 AI 지출이 1.5조 달러에 이를 것으로 예측함
    전 세계 GDP(2024년 기준 111조 달러) 대비 그리 과도하지 않다고 봄
    AI 투자 수명은 6~8년 정도로 추정되며, 지나치게 비관적이지 않다면 합리적인 규모임
    Gartner 보고서
    세계은행 GDP 데이터

    • 하지만 그 추가 GDP 이익을 투자자들이 실제로 가져갈 수 있을지는 별개의 문제임
    • GPU는 6~8년보다 훨씬 빨리 구식화되므로, 투자 회수 기간이 짧을 수 있음

  • LLM 서비스가 기본적으로 짧은 응답 모드(200토큰 이하) 를 사용하고, 프롬프트 캐싱과 소형 모델 라우팅을 적용하면
    에너지 사용량을 70% 이상 절감할 수 있다고 봄
    ChatGPT 규모에서 연간 전기료가 5천만~1억 달러인데, 이 방식이면 5~10백만 달러로 줄어듦
    EU나 캘리포니아가 이런 모드를 의무화하면 데이터센터 경제에도 큰 변화가 생길 것임

    • 그렇다면 왜 이런 90% 절감 최적화가 아직 구현되지 않았는지 궁금함

  • 10년 전 IBM은 “Watson”을 내세워 “Cognitive Finance” 같은 광고를 쏟아냈지만, 지금은 아무도 언급하지 않음
    혹시 지금의 AI 붐을 남들이 주도하는 게 못마땅한 것 아닐까 싶음

    • IBM은 과거에도 AI, 클라우드에 일찍 뛰어들었지만, 시장 점유율을 확보하지 못했음
      기술 시연은 멋졌지만, 실제 수익 모델이 없었음
    • 외부 컨설턴트들이 Watson을 모든 문제의 해법처럼 밀어붙였지만, 실제로는 비싸고 쓸모없었음
      직접 PoC를 만들어서 안 된다는 걸 증명해야 했던 기억이 있음
    • IBM이 이런 실패를 겪었기에 지금은 더 회의적인 시각을 가질 수도 있음
      그래도 시장 내 입지를 고려하면 완전히 무시할 의견은 아님
    • Watson 실패가 지금 CEO의 판단을 무효화하는 건 아님
    • 어쩌면 IBM은 단순히 “10억 달러 단위 투자는 ROI가 안 나온다”는 현실적 판단을 하는 것일 수도 있음

  • IBM CEO의 말처럼 AI가 수익을 내기 어렵다는 점에는 일리가 있음
    NVIDIA 기준으로 1GW급 전력으로 연간 6.29×10^16 토큰을 생성할 수 있는데,
    인터넷 전체 텍스트가 10^14 토큰 수준이라면, 데이터 자체가 한계에 부딪힐 수 있음

    • 하지만 그 수치가 너무 작게 잡힌 것 같음. 이미지나 영상 데이터를 포함하면 몇 자릿수 이상 차이가 날 것임
    • 이미지 토큰을 포함하면 최소 5자릿수 이상 차이 날 것으로 봄
    • 그런데 이런 계산이 왜 “AI가 수익을 못 낸다”는 결론으로 이어지는지 잘 모르겠음

  • 지금의 AI 논의에는 세 가지 공포 요인이 있음

    1. 버블일지도 모른다는 두려움
    2. 진짜 혁명이 올지도 모른다는 두려움
    3. 그 혁명에서 놓칠까 봐 두려움(FOMO)
      IBM은 특별한 통찰이 있다기보다, 이런 공포의 일부를 반영하고 있을 뿐임

  • AI 인프라 투자가 닷컴 버블 시절의 광케이블 과잉 투자와 비슷하다고 봄
    장기적으로는 가치가 있지만, 개별 기업은 크게 실패할 수 있음
    GPU 수량보다 활용률과 수익 모델이 더 중요함

    • 이에 반대하는 입장으로, 비슷한 주제를 다룬 블로그 글을 소개함
    • 하지만 광케이블은 장기 가치가 명확했지만, GPU는 AI 외의 활용처가 제한적이라 더 위험함

  • IBM은 소비자 하드웨어, 운영체제, 클라우드 모두에서 기회를 놓친 기업임
    CEO의 말이 맞을 수도 있지만, 미래 예측의 기준으로 삼기엔 부적절함

답변달기