1P by GN⁺ 7시간전 | ★ favorite | 댓글 1개
  • OpenAI는 NVIDIA 시스템을 기반으로 최소 10GW 규모의 AI 데이터센터를 구축해 차세대 AI 인프라를 마련하려는 계획을 발표
  • 이 과정에서 NVIDIA는 기가와트 단위 배포 시마다 점진적으로 최대 1,000억 달러 투자를 약속함
  • 첫 번째 1GW 규모 시스템은 2026년 하반기 Vera Rubin 플랫폼에서 가동될 예정임
  • 이번 협력은 OpenAI와 NVIDIA의 하드웨어-소프트웨어 공동 최적화를 포함하며, Microsoft·Oracle·SoftBank·Stargate 파트너들과의 기존 협업도 보완함
  • OpenAI가 주간 7억 명 이상 사용자와 글로벌 비즈니스 채택을 바탕으로 AGI를 향해 나아가는 데 중요한 발판이 될 전망임

파트너십 개요

  • OpenAI와 NVIDIA는 최소 10GW 규모의 시스템을 배치하는 전략적 파트너십 체결 의향서(LOI)를 발표함
    • OpenAI의 차세대 모델 학습 및 실행을 위한 인프라 확보 목적
    • 슈퍼인텔리전스를 향한 단계적 전진의 일부로 소개됨
  • NVIDIA는 데이터센터와 전력 확충을 포함한 배포 과정에 맞춰 최대 1,000억 달러 투자 계획을 밝힘
  • 첫 단계는 2026년 하반기 NVIDIA Vera Rubin 플랫폼에서 온라인화 예정임

주요 발언

  • Jensen Huang (NVIDIA CEO)
    • OpenAI와의 10년간 협력 역사를 언급하며 ChatGPT 돌파구까지의 여정을 강조
    • “10GW 인프라 배치는 지능의 차세대 시대를 열어갈 도약”이라 발언
  • Sam Altman (OpenAI CEO)
    • “모든 것은 컴퓨트에서 시작된다”며 향후 경제의 기반이 될 것이라 강조
    • NVIDIA와 함께 새로운 AI 돌파구와 대규모 인류·비즈니스 활용을 추진한다고 설명
  • Greg Brockman (OpenAI President)
    • NVIDIA 플랫폼으로 수억 명이 사용하는 AI를 만들어왔음을 언급
    • 10GW 배치로 지능의 한계 확장과 기술 혜택의 확산을 기대한다고 발표

협력 범위

  • NVIDIA는 OpenAI의 전략적 컴퓨트 및 네트워킹 파트너로 지정됨
  • 양사는 OpenAI의 모델·인프라 소프트웨어와 NVIDIA의 하드웨어·소프트웨어를 공동 최적화하기로 함
  • Microsoft, Oracle, SoftBank, Stargate 등 기존 협력 네트워크와의 시너지 확대 예정임

OpenAI 현황과 의미

  • OpenAI는 현재 주간 활성 사용자 7억 명 이상을 기록하며 글로벌 기업·중소기업·개발자들 사이에서 널리 채택되고 있음
  • 이번 파트너십은 인류 전체에 기여하는 AGI 구축 미션을 가속화하는 기반으로 평가됨
  • 향후 몇 주 내에 세부 파트너십 조건을 확정할 계획임
Hacker News 의견
  • 기가와트 단위로 표현하는 것이 매우 흥미로움. 지난 3년간 데이터센터 때문에 AI 성장으로 인한 가정과 소상공인의 전기요금 급등 논란이 있었음. 만약 10GW가 시카고와 뉴욕이 합쳐서 사용하는 양과 같다면, 미국 전력망과 인프라 상태가 처참한 현실에서 이 전력을 어디서 조달할지 심각하게 논의해야 함. 이미 데이터센터에 저렴한 전력 공급을 위해 가정에 비용이 떠넘겨졌으니, 이 불평등도 문제임. 5년 사이 미국 가정용 전기요금이 13센트에서 19센트로 46% 인상된 것은 결코 공정하지도 지속 가능하지도 않음. 궁금한 점: 과연 이 10GW는 어디서 공급하고, 누가 그 비용을 감당할까? 참고로, 데이터센터 규모를 이야기할 때 흔히 전력(와트) 기준으로 얘기하긴 하지만, 이번엔 순수 데이터센터 소유주나 운영사가 아닌 엔비디아처럼 컴퓨트 공급자 입장에서 나온 수치임. 그만큼 전력 소비, 전력망 확충, 비용 부담이 중심 이슈임
    • 데이터센터 업계에서 일하고 있음. 데이터센터 규모는 전력 소비량(예: 200MW)으로 말하는 게 표준임. 컴퓨트 설비는 5년마다 업그레이드 가능하지만 전력 요구량은 거의 고정됨. 결국 AI는 에너지를 정제하는 행위라는 점을 이 단위가 잘 보여줌
    • “공정하지도 지속가능하지도 않다”는 주장에 대해, 이탈리아에 비해 미국은 전기요금이 절반임. 세계 최고 부국인 미국에서 극복 못할 일은 아닐 거라 생각함
    • 데이터센터 인프라는 항상 와트 기준으로 할당함. 이 숫자에서 IT 부하, 냉방 등 모든 계산이 파생됨
    • 유틸리티 업체는 요금 인상 시 반드시 규제당국에 근거를 제시해야 함. 비용 증가의 주 원인은 재생에너지 전환 때문임. 대형 데이터센터는 필요한 비용을 직접 부담하도록 하는 것은 어렵지 않음. 다만 전력 자체 생산이 더 복잡한 문제임. 예전에는 콜롬비아 강 수력 발전에서 저렴하게 전력을 빼오기도 했지만, 이제는 주거용 사용과 직접적으로 경쟁하기 시작함. 그래도 발전 단가는 전체 청구 요금 중 아주 적은 부분임
    • 연간 8% 인상은 크지만, 2022년 전세계적인 연료 파동이 있었음을 고려해야 함. 예를 들어 호주에서는 그 해에 전기요금이 두 배 올랐음. 평균적으로 장기적으로는 연평균 6% 정도의 인상률이고, 임금 상승률 4%보다 약간 높은 정도임. 전기요금은 여전히 가계 소득의 작은 비중임. 임금 상승이 대부분의 영향을 흡수함. 물론 저소득층엔 타격이 클 수 있지만, 대다수에게는 큰 파장이 아님
  • “ landmark strategic partnership”에 관한 보도자료 속 모든 표현이 너무 애매하고 회사 홍보식 문구임. 실제로는 “언젠가 뭔가 대단한 걸 하겠다” 수준의 발표 같음
    • Nvidia 주가는 오늘 $6나 올랐으니, 발표 효과는 제대로 거둔 셈임. 사실상 투자자들에게 “우리 대단한 일 하려니 자금 좀 더 주세요”라고 청구한 거고, 많은 투자자가 그에 반응한 듯함
  • Nvidia 시스템의 기가와트 단위 규모가 구체적으로 뭐를 의미하는지 궁금함. 나름대로 추정, 그리고 GPT의 도움으로 계산해보니 거의 천만 대 가까울지도 모르겠음. 정말 엄청난 규모 같음
    • 이 정도 수치는 확실히 말도 안 될 정도로 큼. 시스템 레벨에서 H100 한 대가 1~2kW 정도이므로, 2kW 기준 약 500만 대 계산이 나옴. 예를 들어 NVL72 랙은 72개 칩에 120kW, 냉각 포함 총 2kW씩임
    • “수백만 대 단위”라고 해도 무방함. 실제 개수는 인프라 환경에 따라 다르며, 실제론 가속기가 전체 전력의 일부만 차지함에도 그 규모는 분명 수백만 대임
    • 댓글 보기 전에 간단히 계산해봤는데, GPU 한 대당 600W로 치면 10,000,000,000/600=1,666만 대가 나옴. 여러 요인을 고려하면 실제랑 꽤 다르겠지만 대략적인 시작점임. 오버헤드, 발열, 변환 효율 등은 포함되지 않음
    • GPU 1000개당 3MW로 계산하면 10GW는 대략 333만 대임
    • 이 모든 GPU를 연결할 케이블 종류와 길이가 얼마나 되는지도 궁금함. 단순히 메탈랙에 끼우는 식인 줄 알았더니 실제 데이터센터 사진 보니 파란 선이 수없이 연결돼 있음
  • 이미 LLM(대규모 언어 모델) 기술은 최고조를 지났다고 느껴짐. 이제는 마치 공간히터 광고처럼 뭔가 대단한 발전이 있는 척하는데 실제로는 기술도 정체인 상태. 더 빠른 말 정도 만들고 있는 것뿐임. 시장이 이런 상황을 합리적으로 제어했어야 함
    • AI 버블이 언젠가는 spectacular하게 터질 가능성도 분명히 있음. 하지만 지금이 LLM의 최고점이라는 말은 99~01년 인터넷도 최정점이었다고 말하는 격임. 실은 이후 스마트폰 등 여러 혁신이 더 등장했고, 텍스트 기반 LLM도 아직 정체된 게 아님. AI는 텍스트 만이 아니라 자율주행차 등 실세계 AI도 지수적으로 발전 중임
    • 닷컴버블 당시에도 엄청난 과열 뒤에 큰 crash가 있었고, 그때 살아남은 Amazon 같은 기업은 거인이 됨. 이번 AI 붐도 그런 유의미한 성과가 남길 바람
    • 곧 시장 조정이 올 거라 생각함. 다만 인터넷이 닷컴 폭락 후에도 여전히 가치 있었던 것처럼, 장기적으로 가치가 남으리라 기대함
    • 이제 모든 긍정적인 기대가 이미 가격에 반영된 시점이라는 뜻에서 “지나쳤다”고 보는 시각임
  • 물은 많은 지역에서 부족한 필수 자원임. 데이터센터가 가뭄에 물을 빨아들이는 사례가 여러 번 있었음. 미국 EPA(환경보호청)가 이런 프로젝트의 물 사용 관리에 대해 아직 목소리를 낼 수 있는지 궁금함
    • 중서부 지하수는 에탄올 생산, 캘리포니아에서는 아몬드 농사에 더 많이 쓰고 있음. 이 두 사업이 수자원에 미치는 영향이 훨씬 크고, 데이터센터보다 실제 유용성은 떨어짐. 진짜 심각한 이슈에 더 집중했으면 좋겠음
    • 데이터센터 물 이슈는 언론이 말하는 것만큼 중요한 문제는 아님. 일부 지역엔 국지적 문제가 있지만, 오히려 전력 문제가 더 핵심임
    • 데이터센터 물 소비는 실제로는 순환식 냉각 방식으로 소모가 큰 게 아니라, 그냥 펌프로 돌리는 수준 아닌지 의문임
  • 이런 거대한 설비들의 전기 수요에 대해선 누구도 잘 이야기하지 않음. 뉴저지에서 내는 전기요금도 PSEG 기준 50% 이상 뛰었음. 데이터센터로 수요가 급증했다면서도, 데이터센터에 더 높은 요금제를 적용하지 않는 현실임 관련 기사
    • 이런 요금 인상은 뉴저지의 소비자 무시적 정치현실을 보여주는 사례임. 데이터센터들은 결국 경쟁력 있는 전기요금이 있는 지역으로 모일 것임
    • 이걸 묵인한 건 주 정부임. 간단히 거절할 수도 있는데 허락했기 때문임
  • Google이 연간 15TWh 사용(약 1.7GW)인데, OpenAI와 Nvidia의 새 플랜은 그 5.8배(5.8 Googles)나 되는 전력을 소모할 예정임. 이런 규모라면, 현 GPU와 비교해 초저전력 AI 연산칩에 엄청난 기회가 생길 것임. 이미 여러 기술적 시도가 있으니 기대됨
    • 초저전력 AI 칩의 구체적 예시가 궁금함. 실제 전력 절감 폭이 얼마나 되는지 수치가 있으면 좋겠음
    • 이 단일 데이터센터만으로도 주요 가상화폐의 51% 공격을 할 컴퓨팅 파워가 모일 수 있음. 만일 AI 시장이 거품 끝에 꺼질 경우 흥미로운 보험이 될 수도 있음
  • Ed Zitron의 이슈 분석 기사만을 조용히 기다리고 있음
    • 경영자가 아웃풋으로 성과를 측정하지 못하면, 인풋으로만 측정하게 되어 효율이 떨어지게 됨. 직원들이 사무실로 복귀하라는 것도 그 연장선임. 이제 OpenAI와 Nvidia는 실질적 AI 성과보다 투입 기가와트가 더 중요한 성공 기준이 되어버렸음
    • The Ed Zitron 본인글
    • Ed Zitron의 비관적 전망 하나로 큰 손실 본 사람도 많았음
  • Monaco(740에이커) 크기의 땅이 이 데이터센터에 필요하다는 가정이 있음. 80kW/rack 기준임
    • Monaco는 엄청 작아서 베를린 시내 템펠호퍼 공원에 들어가는 정도임
    • 사실상 BYD 공장 하나 규모 정도로 설명 가능함
    • Monaco는 2 평방킬로미터임. 만약 랙당 1제곱미터라 하면, 실제 필요 면적은 12헥타르, 즉 축구장 17개 정도임(단층 설치 기준). 데이터센터를 수직 적층할 수도 있겠다고 생각함. 혹시 Monaco 크기를 찾아본 게 나만 그런 건지 궁금함 Monaco 위키 직접 면적 계산
    • 미국 전체 땅에 Monaco 480만 개를 담을 수 있음
  • 1960년대 미 해군 잠수함의 원자로가 78MW였으니, 10GW면 원자로 잠수함 128척에 해당함
    • 더 쉽게 보면, 미국 전체 평균 전기소비량의 2%, 인구 1800만 네덜란드 국가 전체와 비슷한 규모임
    • 원전 하나는 보통 최대 2GW, 해상 풍력발전단지도 1.5GW가 한계에 근접함. 메가급 525kV DC 송전 시스템도 케이블 한 줄당 2GW 전송이 최대치임. 10GW 추가 부하만으로도 전력망에 엄청난 충격이 가고 대규모 설비투자가 필요함. 대기업에 525kV 케이블 요청만 해도 2030년 이후에야 받을 수 있음
    • 한편 인간 뇌가 20W 정도를 소모한다면 10GW는 5억 명의 뇌에 해당하는 셈임. 파리 같은 곤충도 엄청 작은 에너지로 정보처리하는 것에 비하면, LLM 등 현 AI는 완전히 비효율적인 방향일지도 모르겠음. 언젠가 이걸 뒤엎는 효율적인 방식이 등장하면 지금 설비는 가치 없어질 수도 있음, 웃음
    • 매우 안전한 1GW급 РБМК원자로 10기면 10GW임(폭발 위험 없음)
    • 발전소 하나에 1GW 정도고, 원전은 건설이 느리므로 결국 천연가스 발전이 가능성이 높음