# 중고 GPU 클러스터의 가치는 아무도 모른다 > Clean Markdown view of GeekNews topic #31730. Use the original source for factual precision when an external source URL is present. ## Metadata - GeekNews HTML: [https://news.hada.io/topic?id=31730](https://news.hada.io/topic?id=31730) - GeekNews Markdown: [https://news.hada.io/topic/31730.md](https://news.hada.io/topic/31730.md) - Type: GN+ - Author: [xguru](https://news.hada.io/@xguru) - Published: 2026-07-23T20:20:18+09:00 - Updated: 2026-07-23T20:20:18+09:00 - Original source: [substack.com/ciphertalk](https://ciphertalk.substack.com/p/nobody-knows-what-a-used-gpu-cluster) - Points: 2 - Comments: 1 ## Topic Body - xAI가 채무불이행하면 대주단은 20만 개 GPU로 구성된 Colossus를 인수해 임대할 수 있지만, 실제 가치는 장비보다 **운영 상태와 팀의 암묵지**에 크게 좌우됨 - xAI와 CoreWeave를 중심으로 **GPU 담보 금융**이 확산됐으나 가격 산정 인프라가 부족해, 기준금리보다 약 8.5%포인트 높은 대출 금리 등에 측정하기 어려운 위험이 반영됨 - H100 임대료는 2024년 초 시간당 약 8달러에서 2025년 10월 1.70달러로 하락했다가 2026년 3월 2.35달러로 반등해 **잔존가치와 미래 임대수익**을 예측하기 어려움 - 동일한 GPU의 내용연수도 CoreWeave는 6년, Nebius는 4년으로 잡으며, NVIDIA의 제품 주기가 2년에서 1년으로 단축돼 **장부가치와 회수가치**의 격차가 커질 수 있음 - GPU 담보에는 장부상 액면가, 긴급 매각가, 정상 운영가라는 서로 다른 가치가 존재하며, **운영 인계에 실패하면** 계약상 인수한 클러스터를 수익 자산으로 유지하기 어려움 --- ### 운영팀이 떠나면 달라지는 담보 가치 - GPU 클러스터는 건물과 달리 프로비저닝 방식과 현재 성능, 장비 특성을 아는 **운영팀의 잔류 여부**에 따라 가치가 달라짐 - [Meta의 Llama 3 기술 보고서](https://www.datacenterdynamics.com/en/news/meta-report-details-hundreds-of-gpu-and-hbm3-related-interruptions-to-llama-3-training-run/)는 H100 16,384개로 54일간 학습하면서 예상하지 못한 중단 419건을 기록함 - GPU 장애 148건과 HBM3 메모리 장애 72건이 포함됐으며, 현대 데이터센터 GPU의 연간 장애율은 약 **9%** 로 계산됨 - GPU 20만 개 규모에서는 하루 약 50개가 고장 나며, xAI가 목표로 한 100만 개 규모에서는 [Epoch AI](https://epoch.ai/blog/hardware-failures-wont-limit-ai-scaling)가 약 3분마다 한 번의 장애를 예상함 - 신용 위험에서 중요한 것은 명백한 고장만이 아님 - **무음 데이터 손상(SDC)** 은 GPU가 멈추지 않은 채 잘못된 결과를 만들어, 며칠간의 학습을 정상적으로 마친 뒤에도 모델 가중치를 손상시킬 수 있음 - GPU 하나가 수천 개 장비에 걸친 학습 작업을 중단시키는 연쇄 장애는 며칠치 연산을 잃게 함 - 열 스로틀링, ECC 메모리 오류, NVLink 불안정, 버스에서 GPU가 사라지는 문제도 지속적으로 발생함 - [NVIDIA NVSentinel](https://developer.nvidia.com/blog/automate-kubernetes-ai-cluster-health-with-nvsentinel/)은 기존 모니터링이 문제를 감지하고도 해결하지 못하는 한계를 다루며, [Crusoe AutoClusters](https://www.crusoe.ai/resources/blog/autoclusters-minimizing-hardware-failures-in-large-gpu-clusters)는 클러스터 유효 처리량에서 통제 가능한 가장 큰 변수인 대기열 시간을 줄임 - 이런 도구가 없으면 복구에 수시간에서 수일이 걸릴 수 있음 - 운영팀은 여름에 과열되는 랙, 펌웨어 업데이트 이후 불안정해진 냉각 회로, 완전히 고장 나기 전 성능이 떨어진 노드에서 우회시켜야 할 작업을 알고 있음 - 이 지식은 문서보다 **팀 내부의 암묵지**로 남아 있어 대주단의 대차대조표나 접근 범위에 포함되지 않음 ### GPU 자체가 담보가 된 금융 구조 - 지난 18개월 동안 AI 인프라 금융은 기업 신용 기반 부채에서 **GPU 자체를 담보로 한 부채**로 이동함 - xAI Colossus 2 특수목적법인(SPV)은 약 75억 달러의 자기자본과 125억 달러의 부채로 구성됨 - NVIDIA가 자기자본 중 최대 20억 달러를 출자하고, Valor Equity Partners가 자기자본 투자를 주도함 - Apollo와 Diameter가 부채 트랜치에 참여함 - SPV가 NVIDIA GPU를 구매해 xAI에 5년간 임대하며, 부채는 xAI 전체 대차대조표가 아니라 GPU로 담보됨 - Morgan Stanley가 2025년 6월 주선한 xAI의 50억 달러 대출 계약은 채무불이행 시 대주단이 Memphis 외곽의 **Colossus 20만 GPU 클러스터**를 인수해 다른 AI 기업에 임대하고 대출금을 회수할 권리를 부여함 - xAI의 50억 달러 조달 금리는 최대 12.5%였고, CoreWeave의 GPU 담보 거래는 조건이 개선되기 전 기준금리보다 약 8.5%포인트 높게 책정됨 - CoreWeave는 여러 SPV를 통해 **188억 달러**의 GPU 담보 부채를 보유함 - FluidStack과 Anthropic의 500억 달러 계약은 Google이 임대료 지급을 보증하는 다른 구조를 사용하지만, AI 인프라 자산과 임대 현금흐름을 금융화한다는 논리는 같음 - 네오클라우드와 주요 AI 연구소 대부분이 이러한 방식으로 자금을 조달하고 있음 ### 가격 발견과 위험 회피 수단의 부재 - 항공기, 선박, 자동차, 상업용 부동산, 석유에는 수십 년간 축적된 **가격 발견 인프라**가 있음 - 항공기에는 ISTAT 인증 감정인, 세계 등록부, 표준화된 정비 기록, 운송 조종사, 1970년대부터 형성된 중고 시장이 있음 - 선박에는 BICA, 자동차에는 NADA가 있으며, A급 사무실에는 표준 환원율과 공실 비교 자료가 있음 - 석유는 1980년대 초부터 선도 가격 곡선을 보유함 - GPU 시장에는 2024년 Bloomberg 단말기에 출시된 [Silicon Data의 H100 Rental Index](https://www.silicondata.com/products/silicon-index)와 GPU 연산 파생상품용 첫 규제 거래소를 구축하기 위해 2025년 10월 570만 달러를 조달한 [Ornn AI](https://davefriedman.substack.com/p/coreweaves-30-billion-bet-on-gpu) 정도만 존재함 - H100 시간당 임대료는 2024년 초 약 8달러에서 2025년 10월 1.70달러로 하락한 뒤, 예상하지 못했던 추론 수요로 2026년 3월 2.35달러까지 **40% 반등**함 - 항공기나 선박 대출에서는 이처럼 가격이 움직이는 자산을 위험 회피 수단 없이 담보로 삼아 5년짜리 부채를 인수하기 어려움 - CoreWeave의 GPU 담보 대출은 기준금리보다 약 8.5%포인트 높지만, 일반적인 항공기 대출은 1~2%포인트이며 상업용 모기지는 대체로 그보다 낮음 - 추가된 약 6~7%포인트는 GPU 선물시장, 표준 잔존가치 곡선, 미래 임대료 고정 수단이 없는 상황에서 대주단이 부담하는 위험의 가격임 - 시장이 성숙해 위험 회피 상품, 표준화된 잔존가치 곡선, 중고 GPU 시장이 형성되면 금리 스프레드와 AI 인프라의 자본비용이 낮아질 수 있음 - 이때 유리한 기업은 현재 GPU를 가장 싸게 확보한 곳이 아니라, 금융 인프라가 성숙한 뒤 **저비용 부채**에 접근할 수 있는 곳임 ### GPU 내용연수를 둘러싼 불확실성 - CoreWeave는 GPU를 6년에 걸쳐 감가상각하지만, 같은 사업 모델과 하드웨어를 사용하는 [Nebius](https://wccftech.com/coreweave-crwv-depreciates-its-gpus-over-6-years-while-its-competitor-nebius-uses-a-4-year-depreciation-period/)는 4년을 적용함 - AWS, Microsoft, Google은 2023년 서버 내용연수를 3~4년에서 6년으로 늘림 - 합산 설비투자 3,000억 달러를 기준으로 연간 보고 감가상각비가 약 **180억 달러 감소**함 - CoreWeave도 상장 전인 2023년 1월 같은 회계 변경을 적용해 연간 보고 비용을 수억 달러 낮춤 - NVIDIA는 2025년 제품 출시 주기를 2년에서 1년으로 단축한다고 발표해, 부채를 담보하는 GPU가 구세대가 되는 속도가 두 배로 빨라짐 - [Michael Burry](https://www.cnbc.com/2025/11/11/big-short-investor-michael-burry-accuses-ai-hyperscalers-of-artificially-boosting-earnings.html)는 하이퍼스케일러들이 2026~2028년 누적 감가상각비를 약 1,760억 달러 과소계상할 것으로 봄 - 2028년까지 Oracle의 이익은 약 27%, Meta의 이익은 약 21% 과대계상될 것으로 계산함 - 최첨단 학습용 GPU의 실제 내용연수가 2~4년에 가깝고 장부에는 6년으로 기록된다면 **장부가치와 회수가치** 사이에 큰 격차가 생김 - 최근 추론 수요가 H100의 생산적 수명을 최첨단 학습 이후까지 연장한다면 6년이 틀리지 않을 수 있음 - 반대로 2026년이나 2027년에 수요가 다시 약해지면, 대주단이 담보가치를 필요로 하는 시점에 평가손실이 발생함 ### 같은 GPU에 존재하는 세 가지 가치 - **액면가(face value)** 는 SPV가 기록한 구매가격에서 차입자가 선택한 일정에 따라 정액 감가상각한 값임 - 담보인정비율 약정과 거래가 감당할 수 있는 부채 규모를 결정함 - **청산가치(liquidation value)** 는 부실 상황에서 구매자가 지급하는 가격임 - 정상적인 중고 시장에서 2~3년간 적당히 사용한 GPU는 신제품 가격의 50~70%에 거래됨 - 여러 네오클라우드가 동시에 어려움을 겪으면 공급이 급증하는 동시에 구매자 풀이 줄어들어, 긴급 매각 회수율이 액면가의 30~50%까지 떨어질 가능성이 있음 - **계속기업가치(going-concern value)** 는 다음 임차인이 정상 가동 자산으로 이용할 때의 가치이며, 운영 인계의 성공 여부에 전적으로 달려 있음 - 대주단이 개입권을 행사하면 다른 소유자의 코로케이션 시설과 그 시설의 계약·제약까지 함께 떠안음 - 차입자 운영팀이 떠나면 자격 증명과 토폴로지 지식도 사라질 수 있음 - 임대료가 18개월 동안 한 방향으로 60% 움직였다가 반대 방향으로 40% 반등한 시장을 위험 회피 수단 없이 상대해야 함 - 하루 약 50개 GPU가 고장 나는 환경에서 어떤 랙이 지속적으로 불안정했는지 아는 인력도 필요함 - 액면가와 계속기업가치의 차이는 현재 금융 구조에서 **위험 회피되지 않은 핵심 위험**으로 남아 있음 ### GPU 담보 금융을 피하는 투자자 - KKR은 데이터센터 투자에 적극적이지만 GPU 담보 금융보다 건물, 전력, 냉각, 토지에 집중함 - Global Infrastructure Partners와 함께 2022년 CyrusOne을 150억 달러에 인수함 - 2026년 Global Technical Realty에 15억 달러를 투자함 - 2026년 2월 STT GDC 지분 75%를 51억 달러에 확보함 - KKR의 디지털 인프라는 1,860억 달러 규모 실물자산 사업의 핵심이지만, Aligned Data Centers를 인수한 AIP 컨소시엄이나 xAI SPV, CoreWeave 부채 시설에는 참여하지 않음 - 이러한 자산은 어떤 AI 연구소가 승리하거나 어떤 GPU 세대가 지배하는지와 관계없이 가치를 유지하는 **기반 인프라 계층**임 - [Peter Thiel](https://fortune.com/2026/03/10/peter-thiel-nvidia-shares-sold-apple-microsoft-ai-bubble/)은 2025년 3분기 NVIDIA 지분 전량을 매각하고 Apple과 Microsoft로 이동함 ### GPU 담보 시장에 필요한 기반 - 항공기는 등록부, 감정인, 정비 기록이 갖춰지면서 금융 가능한 자산이 됐고, 선박도 BICA와 같은 체계를 구축함 - GPU 담보 대출의 높은 금리 프리미엄은 대주단이 두 가지 기본 질문에 답할 수 없기 때문에 발생함 - ### 클러스터가 지금도 정상 작동하는가 - **3년 뒤에도 정상 작동할 것인가** - GPU 금융이 성숙하려면 장비 가격뿐 아니라 운영 상태, 정비 이력, 잔존가치, 미래 임대료를 측정하고 이전할 수 있는 체계가 필요함 ## Comments ### Comment 62270 - Author: neo - Created: 2026-07-23T20:20:19+09:00 - Points: 1 ###### [Hacker News 의견들](https://news.ycombinator.com/item?id=48917135) - “보통 상태에서 2~3년 사용한 GPU가 신품 가격의 50~70%에 거래된다”는 수치는 상태 좋은 **Nvidia H100** 기준이며, 현재 공급 부족도 반영돼 있음 철거 후 세척·검사·재정비된 가격이므로 폐업 현장에서 바로 떼어낸 장비의 가치는 더 낮을 것임. eBay에서는 여러 판매자가 포장된 신품 사진을 똑같이 쓰거나 경쟁사 로고가 찍힌 사진까지 올리고 있어 위험 신호로 보임 [https://introl.com/blog/secondary-gpu-markets-buying-selling...](https://introl.com/blog/secondary-gpu-markets-buying-selling-used-hardware-guide-2025>) [https://www.ebay.com/shop/nvidia-h100-gpu?_nkw=nvidia+h100+g...](https://www.ebay.com/shop/nvidia-h100-gpu?_nkw=nvidia+h100+gpu&msockid=3f8b9a1d8ff965f92c9d881c8e9664ed) - 미국 본토에서 eBay를 통해 중고·재정비 데이터센터 서버 장비를 대량 판매하는 **신뢰할 만한 업체는 많아야 30~40곳** 정도일 것임. 평가가 14개뿐인 무명 판매자에게 중고 GPU 여러 장을 사는 건 매우 위험함 Dell R840과 768GB RAM 같은 서버를 판매하면서 평가가 수천 개이고 평점이 98.5% 이상인 업체라면 위험이 훨씬 낮아 보임 - 고장났을 가능성이 큰 장비를 누가 **신품 가격의 70%** 에 사는지 의문임. 빠르게 폐업한 소형 연구소 장비라면 괜찮을 수 있지만, 수년 동안 열 한계에 가깝게 가동한 클러스터가 그런 중고 가격을 받을 것 같지는 않음 - Nvidia가 대형 고객과 Ferrari식 **환매 계약**을 맺어 업그레이드 물량이 한꺼번에 풀리며 가격이 폭락하는 것을 막고 희소성을 유지할 것 같기도 함 그렇지 않다면 몇 년 뒤 공개 시장에서 H100을 구할 수 있기를 기대함 - 대규모 사내 GPU 데이터센터를 보유한 조직에서 근무했는데, 상당한 할인율로 전환하는 계약에 **기존 하드웨어를 전부 넘기고 추가 구매를 중단한다는 조건**이 포함됐음 - A100과 H100이 최첨단 모델을 효율적으로 구동하기에는 완전히 구식이 되고 가격이 폭락하면, 향후 몇 년간 **범용 GPU 연산의 황금기**가 열릴 수 있음 GPU 가속 질의 엔진, 전통적 머신러닝, GPU로 넘길 수 있는 각종 CPU 작업에 이상적일 것임 - 데이터센터가 H100을 처분하는 건 신형 칩의 전력 효율이 훨씬 좋아져 **운영 경제성이 사라질 때**뿐일 것임 그때의 H100은 오늘날 중고 V100처럼 전력 효율이 형편없고 최신 데이터 형식과 연산 엔진이 없으며, 이상한 어댑터와 굉음을 내는 서버 팬 없이는 녹아버릴 수 있고 CUDA 지원도 한참 전에 끝난 장비가 될 것임. 다른 대안이 전혀 없지 않은 이상 거의 쓸모없을 가능성이 큼 - 그런 계약은 불법이어야 하며, 매우 **기만적인 사업 관행**처럼 들림 - H100 취미 사용자 시장이 생긴다면 꽤 기이할 것임. 중고 장비를 사들여 **새 섀시에 이식하는 사업**도 가능해 보임 - Huawei가 **저가 가속기**를 시장에 내놓으면 미국 AI 기업들도 자산의 실제 가치를 곧 알게 될 것이며, 남은 시간은 6~9개월 정도로 봄 - 여름에 뜨거워지는 랙, 펌웨어 업데이트 후 불안정해진 냉각 회로, 장애 직전 노드에서 우회시켜야 할 작업 같은 정보는 모두 **모니터링 시스템**에 있어야 함 그렇다면 어떤 최첨단 모델도 짧은 시간 안에 상황을 파악할 수 있으므로, 글쓴이가 자신이 다루는 시스템이 가져온 변화를 충분히 이해하지 못한 듯함 - 생성형 AI가 만든 문장이라면 글쓴이가 직접 쓴 것이 아니므로, **글쓴이의 이해도**는 애초에 영향을 주지 않음 - 이 문제가 GPU 클러스터에만 특별한 이유를 모르겠음. 일반적으로 대출 심사·인수 담당자는 담보로 잡은 자산을 운영하고 유지할 능력이 없으며, 그래서 주택·자동차·설비가 경매에서 실제 가치보다 훨씬 싸게 팔리고 대출기관은 보험에 가입함 - GPU 클러스터만의 문제가 아님. 심오하고 결정적인 통찰을 발견했다고 여긴 사람이 장황하게 쓴 글에 가까움 대형 제재소가 거액의 대출을 갚지 못해 은행에 압류되는 과정을 봤는데, 은행은 사업장을 떠안고 싶지 않았지만 창업자가 그만두자 선택지가 없었음. 건조로에 든 완제품 목재조차 처리할 방법을 몰랐고 제재소 전체 인프라는 더 막막했기에, 구매자를 찾지 못한 끝에 창업자를 컨설턴트로 고용해 청산했음. 압류된 데이터센터도 같은 과정을 겪을 것임 - 경매는 **비싸고 위험한 자산을 사기에 형편없는 방식**일 수 있음. 일반 거래처럼 충분히 검증할 수 없으므로 경매 가격에는 그 위험이 반영됨 - GPU 가치가 비교적 천천히 하락하는 건 **공급 제약의 산물**임. FP4 추론에서 Hopper와 Rubin을 자유롭게 고를 수 있다면, 하드웨어를 공짜로 받아 전기료만 내더라도 와트당 성능 때문에 Hopper는 매력이 없음 현재는 Rubin은커녕 Blackwell도 구하기 어려워 H100에 돈을 내지만, 팹 생산 능력이 확대되면 지속되지 않을 현상임 - 리소그래피의 물리적 한계로 기술 발전 속도도 크게 느려지고 있어 과거 같은 세대별 도약은 다시 보기 어려울 것임 더 기이한 건 막대한 하드웨어가 주문 적체 상태이고, 이미 배정된 가동 가능한 장비도 시설 완공을 기다리며 놀고 있다는 사실임. 시설 건설은 이미 수년씩 늦어졌고 관련 기업 사이의 각종 신용과 부채 스와프로 얽혀 있어, 단순한 거품이 아니라 **풍선 위에 세운 카드탑**에 가까움 - 팹 생산 능력은 간단히 늘릴 수 없음. 모든 것이 연간 **EUV 장비 수십 대**만 생산하는 ASML에 달려 있음 - 팹이 정말 생산 능력을 확대할지도 의문임. 증설하지 않고 **높은 가격을 유지하는 편**이 사업적으로 더 유리할 수 있음 - 골드러시가 꺾인 뒤 삽값이 어떻게 됐는지 궁금함. 대장장이들에게는 원하는 만큼의 **고철**이 쏟아졌을 것임 - 암호화폐 시장에서 배운 바로는 GPU의 수명이 끝나는 주된 이유가 고장만은 아님. 새로운 시장 조건에서 구형 장비의 **전력 효율을 경제성 없게 만드는 대안**이 등장하기 때문임 - 다만 **SXM 카드**에는 제대로 된 중고 시장이 없음 - **512GB Mac Studio**가 eBay에서 연초 신품 가격의 두 배에 팔리고 있음 - HBM도 아니고 진짜 GPU도 아닌데 왜 그런지 이해하기 어려움. 모델이 간신히 메모리에 들어갈 수 있고 MacBook만 쓰던 사람에게는 상시 켜둘 서버처럼 느껴질 수 있지만, 유능한 코딩 에이전트를 실용적인 속도로 돌리기는 여전히 어려워 보임 괜찮은 신차 가격을 쓸 거라면 제대로 된 워크스테이션을 만드는 편이 나음. Apple TV 크기의 컴퓨터가 가격 대비 최고 성능에 적합할 리 없으며, 여윳돈 많은 **예비 바이브 창업가들**끼리 과열시키는 것인지 의문임 - [https://news.ycombinator.com/item?id=49005798](https://news.ycombinator.com/item?id=49005798)에는 “512GB 메모리의 M3 Ultra Mac Studio를 팔고 싶다”며 **가격이 2만 달러 이상**이라고 적혀 있음 - 내가 사는 나라에서도 **DGX Spark 유사 제품**이 구매가의 거의 두 배에 팔리고 있음. 참 우스운 세상임 - RAM이 들어간 건 무엇이든 **가치가 오르는 자산**이 됨 - 글은 GPU 클러스터를 로켓 과학처럼 묘사하지만, 이를 발전소로 바꿔도 질문은 전혀 달라지지 않음. 둘 다 복잡하고 변수가 많으며 현재 출력, 정기 유지보수, 숙련 인력 등이 필요함 결국 직접 해결하거나 해결할 수 있는 회사와 계약하게 될 것이고, 실제로 이런 클러스터를 **AI용으로 임대하려는 업체**는 많을 것임 - 조만간 **압류된 GPU**가 시장에 대량으로 나올 조짐이 충분함. 한동안 혼란스럽겠지만 중고 GPU를 쉽게 구하게 되면 많은 가능성이 열릴 것임 - 소련 붕괴 뒤 무기 시장과 비슷하게 들림. 작동하는 전차나 핵무기 부품을 구하기에 그보다 좋은 시절은 없었을 것임 - 그 많은 GPU로 무엇을 할지 궁금함. 모두가 훌륭한 게임용 PC를 갖게 될 수도 있음 현실적으로는 암호화폐 채굴장이 다시 급증해 암호화폐 가격을 낮출 수도 있는데, **값싼 GPU의 대량 공급**이 그 밖에 어떤 변화를 가능하게 할지 궁금함