우리 CI에서 대규모 테스트를 돌렸음. GCP의 AMD Turin 인스턴스를 썼는데, 기사에서도 가장 빠른 축에 속한다고 했음
그런데 놀랍게도 AMD EPYC 4565p가 클라우드의 Turin보다 단일 코어 성능이 최대 2배 빠름
GCP에서는 테스트가 2분 걸렸는데, 4565p에서는 1분 만에 끝났음. 클라우드에서는 4.1GHz, 내 장비는 5.1GHz 부스트 유지
GCP는 8vCPU에 월 $130(스팟 인스턴스)인데, 내 4565p는 $500짜리 CPU에 32vCPU, 전체 장비가 $2,000도 안 됨
CI용으로는 직접 랙에 올리는 게 훨씬 효율적이라 생각함. 몇 달이면 클라우드 비용을 상쇄하고, 성능도 2배임
Hetzner에서는 8vCPU 구성이 월 €10~€48 수준이고, €104면 Ryzen 9 7950X3D(4565p와 거의 동일) + 128GB DDR5 + 2TB SSD 2개 구성 가능함
유럽 업체들의 마진율이 미국보다 훨씬 낮음. 단순 계산으로는 17개월, 콜로케이션 비용까지 고려하면 8년쯤 돼야 본전임
$2,000 장비에 월 $100 콜로 비용이 든다면, 몇 달 만에 본전이라는 계산은 말이 안 됨
무료 콜로라도 1년 이상은 걸림
예전에 가격 비교 사이트를 운영했었음 (baremetalsavings.com)
요즘 개발자들은 베어메탈을 어렵게 느끼지만, 사실 클라우드도 복잡함은 비슷하거나 더함
Datapacket과 OVH에서도 4565p를 제공함. 이 CPU는 숨은 보석임. 대부분의 워크로드에서 성능과 가성비 모두 최고 수준임
Hacker News 의견들
우리 CI에서 대규모 테스트를 돌렸음. GCP의 AMD Turin 인스턴스를 썼는데, 기사에서도 가장 빠른 축에 속한다고 했음
그런데 놀랍게도 AMD EPYC 4565p가 클라우드의 Turin보다 단일 코어 성능이 최대 2배 빠름
GCP에서는 테스트가 2분 걸렸는데, 4565p에서는 1분 만에 끝났음. 클라우드에서는 4.1GHz, 내 장비는 5.1GHz 부스트 유지
GCP는 8vCPU에 월 $130(스팟 인스턴스)인데, 내 4565p는 $500짜리 CPU에 32vCPU, 전체 장비가 $2,000도 안 됨
CI용으로는 직접 랙에 올리는 게 훨씬 효율적이라 생각함. 몇 달이면 클라우드 비용을 상쇄하고, 성능도 2배임
유럽 업체들의 마진율이 미국보다 훨씬 낮음. 단순 계산으로는 17개월, 콜로케이션 비용까지 고려하면 8년쯤 돼야 본전임
무료 콜로라도 1년 이상은 걸림
요즘 개발자들은 베어메탈을 어렵게 느끼지만, 사실 클라우드도 복잡함은 비슷하거나 더함
Google Compute Engine VM 팀에서 일하고 있음. 이번 글은 정말 잘 정리된 벤치마크였음
Genoa가 Milan에서 큰 도약이었는데, Turin은 그보다 더 큼. AMD는 요즘 정말 잘하고 있음. Lisa Su 팀에게 박수를 보냄
MI300 같은 가속기는 스펙상 경쟁력 있지만, 소프트웨어 스택이 약해 아무도 관심을 안 가짐
Vultr와 HostHatch도 고려할 만한 옵션임
내 게이밍 PC(9800X3D, 8코어 5.2GHz)로 몇 가지 비교를 해봤음
7-Zip과 Geekbench 결과를 보면, 데스크톱 CPU가 단일/멀티스레드 모두 훨씬 빠름
C8A의 단일 스레드 성능은 괜찮지만, 메모리 성능이 형편없음
Oracle Cloud에서 벗어나기 쉬운지 궁금함. 벤치마크는 좋게 나왔지만, 라이선스 락인이 심하다고 들었음
다만 비용이 워낙 싸서 작은 프로젝트는 Oracle Cloud에 두고 있음. DBaaS 안 쓰고 그냥 리눅스 VM만 씀
다만 UX는 정말 끔찍함
영업팀이 계속 연락했지만 해결은 안 됨. Reddit에서도 같은 경험을 한 사람이 많았음
아직도 ROME EPYC CPU를 몇 백 달러에 사서 쓰고 있음. 전력 효율은 별로지만, 멀티스레드 성능은 9950X보다 우수함
내가 내는 36유로짜리 250/250 파이버 인터넷이 아직도 꽤 경쟁력 있음을 보니 기분이 좋음
여전히 자체 하드웨어 보유가 훨씬 저렴해 보임. 특히 개발/테스트 환경에서는 더 그렇지 않나 생각함
대기업들은 자본 비용이 AWS보다 낮은데도 왜 클라우드로 가는지 이해가 안 됨
하지만 지금은 AWS 엔지니어 비용까지 포함된 구조라, 실제로는 여전히 비쌈
요즘 서버는 288코어까지 나오니, 자체 여유분을 두고 운영하는 게 충분히 가능함
주요 워크로드는 자체 하드웨어에서 돌리고, 클라우드 스토리지만 병행하는 식으로도 충분히 가능함
실제로는 “다들 하니까”라는 이유가 더 큼
관련 글 보기
Oracle이 가성비 좋은 선택지로 보이는 게 아이러니하지만, 그걸 오래 믿을 수는 없을 것 같음