로드맵: AI 데이터센터 스택

 (bvp.com)
6P by GN⁺ | ★ favorite | 댓글과 토론
  • AI 데이터센터는 건설에 12~18개월이 걸리지만 전력망 연결에는 5~7년이 필요해, GPU보다 전력/인허가/건설 역량이 확장의 핵심 제약으로 바뀌고 있음
  • 2026년 초 발표된 하이퍼스케일 데이터센터는 777개 프로젝트/190GW 규모이며, 전력 확보를 위해 자체 발전소와 배터리를 구축하는 BYOP(Bring Your Own Power)가 지배적인 전략으로 부상함
  • 스타트업 기회는 인허가/부지 선정, 발전, 송배전/전력 변환, 소프트웨어, 건설/유지보수, 냉각의 여섯 영역에 걸쳐 형성되고 있음
  • 전력 설비 부족과 랙 밀도 상승으로 변압기 조달 기간이 최대 5년까지 늘고 일부 AI 랙은 500~600kW를 사용하면서, 800V DC와 고체 변압기 같은 새로운 전력 구조가 필요해짐
  • 이번 투자 사이클에서 지속 가능한 기업은 장비만 공급하기보다 전력 가격/배터리/AI 작업 부하/냉각을 함께 제어하며, 데이터센터 운영에 장기간 내장되는 인프라를 구축하는 기업으로 전망됨

AI가 촉발한 대규모 인프라 투자 사이클

  • AI는 컴퓨팅 역사상 가장 많은 전력을 요구하는 작업 부하로, 2026년 초 기준 하이퍼스케일 데이터센터 190GW가 발표됨
    • 약 148GW는 계획 단계, 21GW는 건설 중, 12GW는 운영 중임
    • 세계 데이터센터 전력 소비량은 2030년까지 두 배 이상 증가할 것으로 예상됨
    • 미국에서는 데이터센터 전력 소비량이 에너지 집약 제조업 전체를 넘어설 것으로 전망됨
  • 데이터센터 자체는 12~18개월 만에 지을 수 있지만 전력망 연결은 5~7년이 걸림
    • 2025년 가동 예정이던 데이터센터 110개 중 4분의 1 이상이 전력/인허가/건설 문제로 지연됨
    • 하이퍼스케일 사업자는 용량과 일정의 확실성을 얻기 위해 자체 발전 설비를 직접 건설하고 운영하는 복잡성을 받아들이기 시작함
  • 미국 정부는 AI 인프라를 국가 안보 문제로 다루기 시작함
    • 2026년 4월 Trump 대통령은 국방물자생산법 Section 303을 발동해 대규모 전력망 장비와 공급망을 국방에 필수적인 분야로 지정함
    • 핵심 전력망 부품의 미국 내 생산 확대를 위한 긴급 연방 금융 지원이 허용됨
  • 2025년 데이터센터는 건설 환경 관련 벤처 투자액 57억 달러 중 45억 달러/78% 를 차지함
  • Bessemer Venture Partners는 현재의 전력 인프라 기술을 대량생산 철강이 철도/교량/공장 건설을 가능하게 했던 과정에 비유하며, AI 경제를 뒷받침할 물리적 시스템에 투자하고 있음

1. 인허가와 부지 선정

  • 데이터센터는 전력을 확보하거나 GPU를 배치하기 전에 지방/주 정부의 여러 승인을 받아야 함
    • 용도지역, 환경 규제, 전력망 연결 계약, 대기/수질 허가, 멸종위기종 조사, 문화유산 조사 등이 포함됨
    • 승인 절차와 소요 기간이 관할 지역마다 달라 프로젝트 관리가 복잡함
  • 2024년 3월부터 2025년 3월까지 데이터센터 개발 16건이 인허가 제한으로 지연되거나 거부됐으며, 지역사회의 반대가 주요 원인으로 작용함
  • 미국에서는 복잡한 인프라 인허가에 매년 50억 달러 이상이 투입되고 있음
    • 미국 전체 인허가 지출의 3분의 1 이상을 차지함
    • 1조5,000억 달러 이상의 인프라 자본이 인허가 절차에 묶여 있음
    • 대형 컨설팅 기업과 5만 개 이상의 소규모 업체가 시장을 담당하지만, 상당수가 직원 15명 미만이며 업무 대부분이 수작업으로 진행됨
  • Lorica는 데이터 수집/구조화/제출을 자동화하는 AI 기반 인허가 준비·실행 서비스를 개발함
    • 프로젝트별 최적 인허가 경로 데이터를 축적해 다음 프로젝트의 일정과 위험을 예측하는 정보 계층을 구축함
  • Paces는 전력망/인허가/환경 데이터를 하나의 플랫폼에 통합함
    • 자본을 투입하기 전에 전력망 제약, 용도지역 충돌, 환경 문제를 탐지함
    • 고객들은 위험을 사전에 파악해 계약 성사 건수가 약 3배 늘었다고 보고함
  • 공간 모델링, 드론 측량, 자원 부담 시뮬레이션도 대규모 자본 투입 전에 지역사회 반발 가능성을 파악하는 수단으로 활용될 수 있음
  • 유망한 제품은 분리된 데이터를 하나의 화면에 통합하고, 맥락을 활용하는 에이전트와 반복 프로젝트에서 정확도가 높아지는 데이터 플라이휠을 구축해야 함

2. 자체 발전과 BYOP

  • 전력망 연결형 부지는 발표된 프로젝트 수의 45%로 가장 많지만, 자체 발전과 하이브리드 방식이 발표 용량의 절반 가까이를 차지함
  • BYOP는 전력망 연결 대기열을 피하기 위해 계량기 뒤편(BTM)에서 전력을 직접 생산하는 전략임
    • 2025년에만 약 50GW의 BTM 가스 발전 프로젝트가 발표됨
    • 신규 AI 데이터센터를 빠르게 가동하기 위한 지배적인 전략으로 자리 잡음
  • 발전 기술은 공급망 충격에 대응할 수 있고 수요에 맞춰 확장 가능한 모듈형 구조를 중심으로 개발되고 있음
  • Boom Supersonic은 초음속 항공기용 제트엔진 코어를 데이터센터용 42MW 천연가스 터빈 Superpower로 전환함
  • Arbor는 초임계 CO₂를 작동 유체로 사용하고 탄소 포집을 내장한 차세대 가스터빈을 개발함
  • BTM 배터리는 값싼 비첨두 시간에 충전하고 첨두 시간에 방전해 수요 요금을 줄임
    • 비상 전력과 전력망 독립성도 제공함
    • Calibrant Energy는 하이퍼스케일 데이터센터의 배터리 설비에 금융을 제공하고 직접 배치함
  • Exowatt은 AI 팩토리를 위한 모듈형 태양광 발전과 열 배터리를 개발하며, 24시간 필요할 때 공급 가능한 전력을 목표로 함
  • Inertia는 Lawrence Livermore National Laboratory의 레이저 기반 관성 가둠 핵융합 방식을 상용화해 전력망 규모 발전소를 건설하려 함
    • 핵융합은 가장 장기적인 기술이지만 청정/급전 가능 기저전력을 대규모로 공급할 잠재력 때문에 2030년대 이후 핵심 분야로 평가됨
  • American Terawatt는 공공 전력망을 거치지 않고 발전원과 데이터센터를 연결하는 민간 고압 직류 송전망을 구축함
  • 장기적인 경쟁력은 낮은 균등화 발전비용(LCOE), 반복 가능한 배치 방식, 안정적인 공급망에서 형성됨
    • 장비를 공급한 뒤 급전 최적화와 예측 제어 소프트웨어를 추가할 수 있어야 함
    • NVIDIA의 800V DC 아키텍처로 전력 구조가 수렴하면서 핵심 인프라 파트너로 자리 잡을 기회가 생김

3. 송전/전력 변환과 전력의 중간 구간

  • 데이터센터에 도달하는 모든 전력은 발전/송전/시설 단계에서 전압을 바꾸는 변압기를 통과함
  • 변압기 수요는 2019년부터 2025년까지 119% 증가했지만 생산 능력은 따라가지 못함
    • GE, Siemens, Mitsubishi 등의 납품 기간은 코로나19 이전 약 1년에서 최대 5년으로 늘어남
    • 개폐장치 납품 기간도 60주를 넘었으며 고압 케이블과 차단기가 다음 병목으로 지목됨
  • 클라우드 시대의 랙 전력 밀도는 20~40kW였지만 일부 AI 학습 클러스터는 랙당 500~600kW를 사용함
    • NVIDIA는 Rubin Ultra 이후 랙당 1MW를 목표로 함
    • 800V DC 표준화와 함께 기존 AC/DC 변환 단계는 에너지 손실과 추가 장비를 발생시킴
  • 전력 전달 분야의 기회는 세 가지로 구분됨
    • 기존 기업보다 빠르게 전력망 장비를 공급함
    • 변압기와 전력 변환 구조 자체를 다시 설계함
    • 이미 설치된 송전 인프라에서 더 많은 용량을 확보함
  • Ayr Energy는 인도의 계약 제조사를 활용해 변전소/송전용 변압기와 차단기를 생산함
    • 기존 3~5년인 납품 기간을 6~12개월로 줄임
  • 고체 변압기(SST)는 여러 전력 변환 단계를 하나의 모듈형 장치로 통합함
    • Silicon Carbide 반도체를 사용해 중전압 AC를 800V DC로 직접 변환함
    • 양방향/프로그래밍 가능한 구조로 배터리 저장장치, 태양광, 자체 발전과 직접 통합할 수 있음
  • Heron Power의 Heron Link는 800V DC 변환을 위해 설계된 모듈형 중전압 SST이며 NVIDIA 800V DC 아키텍처의 주요 파트너로 참여함
  • DG Matrix는 다양한 전압과 주파수를 입력받아 800V DC 또는 AC를 출력하는 다중 포트 SST를 개발함
    • 기존 10~17개의 개별 전력 시스템을 하나의 장치로 통합함
  • 미국의 전력망 혼잡 비용은 연간 약 115억 달러에 달함
    • 운영자가 송전선의 실시간 상태를 충분히 파악하지 못해 실제 열적 한계보다 낮은 수준으로 보수적으로 운영하는 용량이 많음
  • GridAstra의 FUSION-T는 동적 송전 용량, 고급 전력 흐름 제어기, 전력망 토폴로지 재구성을 하나의 환경에서 모델링함
    • 과부하 선로의 전력을 사용률이 낮은 선로로 자동 우회하는 제어 계획을 생성함
  • TS Conductor는 복합재 코어 전선을 이용한 재가선으로 기존 송전 통로의 용량을 약 두 배로 늘림
    • 신규 송전선 건설에 필요한 인허가와 토지 사용권 확보를 피할 수 있음
  • 경쟁력은 당장 공급할 수 있는 속도와 하이퍼스케일 물량을 감당할 생산 구조를 동시에 확보하는 데서 형성됨

4. 전력과 AI 작업 부하를 연결하는 소프트웨어

  • 데이터센터는 발전원, 배터리, 전력망 연결, 변화하는 AI 작업 부하를 함께 운영하는 복잡한 에너지 시스템으로 변하고 있음
  • 전력 관리, 작업 예약, 전력망 통신, 규정 준수가 서로 분리된 시스템에 남아 있음
    • Schneider, Vertiv, Sunbird 등의 기존 DCIM은 이전 세대 데이터센터를 전제로 설계됨
  • 새로운 소프트웨어 기회는 등급별 SLA, 에너지 경제성과 물리 장비 제어의 통합, AI 작업 부하용 DCIM에서 형성됨

유연한 작업 부하를 반영하는 등급별 SLA

  • 기존 전력 계약과 데이터센터 서비스 계약은 AI 작업 부하를 중단할 수 없는 고정 수요로 취급함
  • 실제로는 일부 AI 작업을 유연하게 운영할 수 있음
    • 학습 작업은 일시 정지한 뒤 재개할 수 있음
    • 배치 추론은 전력이 충분한 지역으로 이동할 수 있음
    • 우선순위가 낮은 작업은 더 긴 지연 시간을 허용할 수 있음
  • 작업의 유연성이 계약에 반영되지 않아 사용할 수 있는 전력망 용량이 방치되고 있음
  • 등급별 SLA는 배치 가능한 학습을 비첨두 시간으로 옮기고, 중요도가 낮은 작업의 지연을 늘리며, 전력망 비상 상황에서 용량을 반환하도록 설계됨
  • Emerald AI는 전력 상황에 따라 GPU 작업 부하를 동적으로 예약함
    • 전력망이 부족할 때 배치 학습을 멈추거나 제한함
    • 지연 시간에 민감한 추론은 보호함
    • 전력이 풍부한 지역으로 연산을 이동함
  • Virginia의 Aurora AI Factory는 Emerald, Digital Realty, NVIDIA, EPRI, PJM이 참여하며, 전력 수요를 유연하게 조절하는 데이터센터의 첫 상용 실증 사례가 될 예정임

에너지 경제성과 물리 장비 제어의 통합

  • 여러 데이터센터를 운영하는 기업은 부동산, 전력 가격과 헤지, 작업 예약, 규정 준수를 함께 관리해야 함
    • 수천 건의 전력요금을 정산함
    • 도매 전력 가격 위험을 헤지함
    • 실시간 가격에 맞춰 배터리를 충전/방전함
    • 재생에너지 인증서를 회계 처리함
  • 현재는 스프레드시트와 개별 솔루션을 이어 붙여 처리하는 경우가 많음
  • Verse는 전력요금 관리, 전력구매계약(PPA), 에너지 포트폴리오 분석, 위험 관리와 헤지를 하나의 플랫폼에 통합함
    • Dispatch Intelligence는 BTM 배터리의 실시간 충전 결정을 내림
    • 장기 PPA 조건은 배터리 방전 방식에 영향을 주고, 수요 요금의 과다 청구는 전체 헤지 전략에 영향을 줄 수 있음

AI 작업 부하용 DCIM

  • 데이터센터 운영자는 랙별 실제 전력 사용량, 열적 여유, 보수적 정격 때문에 방치된 용량, 성능이 저하되는 GPU를 실시간으로 파악하기 어려움
  • 차세대 DCIM은 다음 기능을 결합해야 함
    • 실시간 원격 측정
    • 열과 전력 흐름에 대한 예측 시뮬레이션
    • AI 기반 이상 탐지
    • 대시보드 표시를 넘어 신뢰할 수 있는 자율 제어
  • Aravolta와 Phaidra 등이 AI 기반 운영 시스템을 개발하고 있음

전력회사 업무의 AI 자동화

  • 전력회사와 전력망 운영자는 연결 신청, 발전/송전 계획, 부하 증가 모델링, 요금 규제 절차를 처리해야 함
  • AI 기반 소프트웨어는 다음 영역을 자동화할 수 있음
    • 전력망 연결 연구
    • 자본 프로젝트 계획과 부하 예측
    • 규제 서류와 요금 심사 절차
  • Senpilot은 엔지니어링/규제/고객 서비스용 에이전트를 하나의 플랫폼에 묶은 전력회사 운영체제를 개발함
  • 전력회사 소프트웨어는 기업 기술 시장에서 변화가 느렸지만, AI가 기존 시스템을 대체할 계기가 될 수 있음

전력망 계획과 운영

  • BTM 발전은 단기적인 전력 확보를 돕지만 장기적으로는 공공 전력망이 신규 부하를 더 빠르게 수용해야 함
  • GE Vernova에서 분사한 ThinkLabs AI는 물리 법칙을 반영한 전력망 AI 디지털 트윈을 개발함
    • 전력 흐름, 혼잡, 신규 연결 영향을 기존 도구보다 짧은 시간에 모델링함
    • 전력회사가 설비 증설을 계획하고 신규 부하를 더 효율적으로 연결하도록 지원함
  • 가장 가치 있는 소프트웨어는 IT 작업 부하와 물리적 전력 설비를 실시간으로 연결하고, 수집된 데이터를 기반으로 직접 조치할 수 있어야 함

5. 건설/유지보수와 인력 부족

  • 2025년 말 건설 업계의 인력 부족은 약 43만9,000명에 달함
  • 데이터센터 최대 현장 인력은 클라우드 시대 약 750명에서 현재 4,000~5,000명으로 증가함
  • 데이터센터 인력의 평균 연령은 53세이며, 사업자의 60%가 채용에 어려움을 겪고 있음
  • 인력 부족은 전력과 인허가만큼 프로젝트를 지연시키는 요인이 됐으며, 로봇/자동화/AI 소프트웨어가 건설부터 폐기까지 투입되고 있음

초기 건설

  • Bedrock Robotics는 Bedrock Operator를 통해 기존 중장비에 자율주행 기능을 추가함
  • Built Robotics는 데이터센터와 태양광 발전소를 위한 자율 굴착/말뚝 시공 장비를 개발함
  • TerraFirma는 기술 기반 하도급 업체로서 실제 데이터센터 건설 현장에 로봇 토공 작업을 배치함
  • DroneDeploy는 드론으로 현장 데이터를 수집하고 AI로 공정 진행, 안전 위험, 시공 품질을 점검함

운영과 유지보수

  • MaintainX는 유지보수 담당자에게 AI 기반 자산 정보와 작업 정보를 제공함
  • Gecko Robotics는 산업 시설을 로봇으로 검사해 부식과 구조적 문제를 고장 전에 탐지함
  • Watney Robotics는 시설 내부의 수리, 물류, 일상 유지보수 작업을 수행하는 자율 로봇을 개발함

장비 해체와 순환 사용

  • 하이퍼스케일 사업자가 최신 GPU와 서버로 교체하는 주기가 짧아지면서 폐기되는 장비가 빠르게 늘고 있음
  • Molg는 서버, 노트북, 산업 전자장비를 자동 분해하는 로봇 마이크로팩토리를 개발함
    • 부품 회수, 재제조, 재활용을 통해 폐기 장비에서 가치를 회수함
  • 장기적인 경쟁력은 자동화와 독점적인 현장 데이터를 결합하는 데서 형성됨
    • 고장을 연쇄 장애 전에 예측함
    • 시공 품질 문제를 재작업 전에 발견함
    • 폐기될 장비에서 회수 가능한 가치를 찾아냄

6. 고밀도 AI 랙을 위한 냉각 기술

  • AI 랙은 향후 1년 안에 클라우드 시대보다 50배 높은 전력 밀도를 요구할 것으로 전망됨
  • 공랭 방식은 열을 충분히 빠르게 제거하지 못해 성능 제한과 하드웨어 열화를 방지하기 어려움
  • 과열은 하드웨어 수명과 와트당 성능에 직접 영향을 주기 때문에 하이퍼스케일 사업자와 프런티어 연구소는 냉각 구조 자체를 다시 설계하고 있음
  • 액체 냉각은 신규 AI 데이터센터 냉각 구조의 다수를 차지하는 방식으로 부상함
    • 직접 칩 냉각은 콜드 플레이트와 매니폴드로 냉각수를 프로세서 표면에 전달함
    • 액침 냉각은 서버 전체를 비전도성 유체에 담가 극단적으로 높은 랙 밀도를 처리함
    • 직접 칩 냉각은 기존 데이터센터 구조와 통합하기 쉬워 단기 적용 범위가 더 넓음
  • Corintis는 AI로 설계한 미세유체 콜드 플레이트를 개발함
    • 냉각수를 칩의 발열 지점으로 직접 보내 기존 평행 채널 구리 플레이트보다 높은 성능을 제공함
  • 냉각 장비 운영을 AI로 최적화하는 소프트웨어 시장도 형성되고 있음
  • Phaidra는 실시간 전력 사용량을 수요 급증의 조기 신호로 사용함
    • 칩 온도가 오르기 전에 냉각 시스템을 조절해 열 안정성을 높임
  • 냉각은 단순한 부대 설비가 아니라 칩 성능, 하드웨어 수명, 데이터센터의 물 사용량과 배출량을 결정하는 능동형 제어 시스템으로 바뀌고 있음
  • 유망한 냉각 기술은 특정 하드웨어 공급업체에 고정되지 않고 변화하는 데이터센터 구조에 적응할 수 있어야 함

설비 투자 이후에도 남는 운영 인프라

  • AI 인프라의 에너지 계층은 발전, 급전, 유연한 소비, 전력망 현대화, 전력회사 소프트웨어가 서로 연결된 생태계임
  • 분야마다 별도의 기업 기회가 존재하지만, 장기적인 경쟁력은 여러 계층을 연결하는 능력에서 형성됨
  • 가장 매력적인 기업은 현재의 대규모 설비 투자에서 성장한 뒤 신규 건설이 둔화되어도 데이터센터와 전력회사의 운영 인프라로 남아 장기간 수익을 창출할 수 있음

함께 보면 좋은 글 β