25P by GN⁺ 2일전 | ★ favorite | 댓글 22개
  • AWS에서 자체 서버로 이전해 월 인프라 비용을 10분의 1로 절감한 개발자의 경험담으로, 월 1,400달러에서 120달러로 줄이면서 더 강력한 서버 성능을 확보
  • Hetzner 같은 업체에서 제공하는 베어메탈 서버는 80코어에 월 190달러 수준으로, AWS의 유사 사양 인스턴스 대비 7~18배 저렴
  • 클라우드 엔지니어들이 자체 서버 운영을 반대하는 이유는 고용 안정성과 복잡한 인프라에 대한 의존성 때문이며, 실제 비용 부담은 고용주가 지기 때문
  • 대부분의 소규모 비즈니스는 고가용성, 멀티존 복제, 자동 페일오버 같은 엔터프라이즈급 기능이 불필요하며, 단일 서버로도 일일 수백만 요청 처리 가능
  • 서버 관리는 초기 설정 후 안정적으로 유지되며, AI 도구의 도움으로 리눅스 서버 운영 진입장벽이 역대 최저 수준임

클라우드 비용 절감 사례

  • 최근 모든 프로젝트를 클라우드에서 이전해 월 AWS 비용 10배 절감 및 수천 달러 절약 달성
    • 월 AWS 요금이 약 1,400달러에서 120달러 미만으로 감소
    • 더 강력한 서버 인프라를 더 저렴한 비용으로 확보
    • 성능은 2배 향상되었고 벤더 종속에서 자유로워짐
  • 이 트윗이 바이럴되면서 두 가지 발견: 많은 개발자가 방법에 관심을 보였고, 다수는 이 아이디어에 강한 반감과 대립적 태도 표출
  • 비즈니스 관점에서 비용 10배 절감, 성능 2배 향상, 벤더 종속 탈피라는 명백한 이득을 달성했으나 강한 반발에 직면함

클라우드 옹호자들의 이해관계

  • 반대 의견을 낸 사람들 대부분이 프로필에 "devops", "cloud engineer", "serverless guy", "AWS certified" 등의 키워드 보유
    • 이들은 자신의 프로젝트를 클라우드에서 운영하지 않으며, 클라우드 비용을 직접 부담하지 않음
    • 고용주의 AWS 청구서에 무관심하며, 매달 수천 달러가 낭비되는 고통을 체감하지 못함
  • AWS가 이들에게 편리한 이유
    • 기술적으로 복잡해 보여 다른 개발자 앞에서 똑똑해 보이게 함
    • 의존성과 종속 효과를 만들어 직원으로서 대체 불가능해짐
    • 클라우드 사용이 높은 월급을 보장하므로 비즈니스를 위한 효율적 결정을 할 인센티브가 없음
    • 오히려 비즈니스 인프라가 복잡하고 난해할수록 자신의 일자리가 안전해짐
  • 이들은 서버가 실제로는 저렴하다는 진실을 말하지 않을 것

저렴한 서버 임대 옵션

  • Hetzner로 이전 (제휴 없음, 단지 저렴한 서버 제공)
    • 80코어 베어메탈 서버를 월 190달러 미만에 임대 가능
    • AWS의 C5-C6 계열 유사 사양 인스턴스는 월 2,500~3,500달러로 13~18배 더 비쌈
    • 예약 인스턴스로도 월 1,300달러 수준으로 여전히 7배 비싸며, 46,000달러 선불과 3년 계약 필요
  • VPS 옵션도 매력적
    • 48개 vCPU 머신을 월 300달러에 제공, 설정 수수료나 장기 계약 없이 완전한 유연성 보장
    • 8코어, 32GB RAM 머신을 월 50달러에 제공, 일일 수백만 요청이 아니라면 모든 프로젝트를 동시에 실행 가능

서버 구매 및 데이터센터 활용

  • 장기적으로는 서버 구매가 더 저렴
    • 44 CPU, 256GB RAM, 2TB NVMe SSD를 갖춘 랙 마운트 서버를 1,000달러 미만에 구매 가능
    • 월 클라우드 비용보다 저렴한 가격으로 앱을 수년간 운영 가능
  • 데이터센터 랙 공간 임대 옵션
    • 전기, 인터넷, 냉각, 보안을 제공하는 데이터센터 케이지 또는 공유 랙 공간 임대 가능
    • DatacenterMap 같은 웹사이트로 지역 데이터센터 검색 가능
  • 소규모 개발자에게는 지나치게 복잡
    • 엔지니어 고용 필요, 가격 협상 등 번거로운 과정
    • 주로 중대형 기업을 대상으로 하며, 소규모 팀에는 비실용적
    • Hetzner 같은 업체에서 이미 마운트된 서버를 임대하는 것과 실질적으로 동일하며, 하드웨어 관리 부담을 덜어줌

"여전히 클라우드 아니냐"는 비판에 대한 반박

  • 가장 흔한 비판: "그것도 여전히 클라우드 아니냐", "클라우드를 나간 게 아니라 클라우드 제공업체만 바꾼 것"
  • 핵심 논점을 놓친 비판
    • 중요한 것은 자체 서버 관리 vs 클라우드를 당연시하는 것 사이의 가치
    • 작은 리눅스 머신을 운영해 RDS 같은 비용 소모적 관리형 서비스를 대체하면 10~100배 적은 비용 지불
    • 대부분의 개발자는 서버를 두려워하며, 저렴하게 자체 서버를 설정할 수 있다는 약간의 격려만 필요
    • 실제 세계에서는 거의 아무도 클라우드의 비싼 관리형 서비스가 필요 없으며, 몇 대의 리눅스 박스에서 일반 소프트웨어로 충분히 가능
  • 명명 논쟁은 본질을 흐림
    • VPS든, 베어메탈이든, 온프레미스든, 코로든 명칭은 중요하지 않음
    • 서버를 어딘가에 두어야 하는 것은 사실이며, 중요한 것은 돈을 주머니에 더 많이 남겼는지 아니면 아마존 주주들에게 넘겼는지
  • 이런 주장을 하는 사람들은 본질적으로 문지기(gatekeeper) 역할
    • "제대로 하는 게 아니다, 스위치도 직접 구매하고, 랙도 직접 만들고, 이더넷 케이블도 직접 연결해야 한다"
    • 독성이 있고 게으른 논증이며, 피상적 세부사항에 집착해 중심 논점을 회피하는 태도

클라우드 비용은 본질적으로 비쌈

  • 클라우드 옹호자들의 가스라이팅 시도
    • "클라우드를 잘못 사용하고 있다", "비싼 이유는 잘못 하고 있어서다", "클라우드 사용법을 알아야 한다"
    • 이들은 대안을 실제로 시도해본 적이 없으며, 자신의 프로젝트를 위해 서버를 관리한 실제 경험이 없음
  • 본인은 AWS에 익숙하며 AWS 자격증도 공부
    • 인프라가 과다 프로비저닝되지 않았는지 확인
    • 사용하지 않는 서비스에 대한 비용 지불 여부 확인
    • AWS 비용 최적화에 수없이 많은 시간을 투자했으며, 월 5,000달러 이상이던 AWS 청구서를 절반 이상 줄이는 성공도 거둠
  • 서버리스 컴퓨팅, 예약 인스턴스 등 모두 알고 있음
    • 예약 인스턴스는 문제를 악화시킬 뿐: 벤더 종속을 만들고, 3년 계약으로 자신을 묶음
    • 클라우드 이탈을 고려하는 상황에서 3년 계약은 최악의 선택
  • 모든 시도 끝에 내린 결론: 클라우드는 단순히 너무 비쌈

반발의 원인

  • 왜 이렇게 많은 사람들이 비용 절감에 대해 신경 쓰는가?
  • 두 가지 주요 결론
    • 생계가 달려 있음: 자신과 같은 사람들이 충분히 많은 사람을 설득하면 일자리를 잃을 수 있음
    • 두려움으로 인한 비이성적 논쟁: 지난 10년간 클라우드 구축이 트렌드였고 수백만 명의 "devops"와 "cloud engineers" 직군 생성, 이제 클라우드를 벗어나는 것이 트렌드가 되면 많은 클라우드 전문가의 경력이 종료될 수 있음
  • 많은 개발자가 클라우드가 초기 약속만큼 좋지 않다는 것을 은밀히 알고 있음
    • 고용주의 AWS 지출이 적정 수준의 10배라는 것을 보면서도 "괜찮다"고 넘어감
    • 관리자를 화나게 하거나 책임을 떠안을 위험을 감수하고 싶지 않음
    • 팀에서 가장 목소리 큰 사람과 의견이 다를 때의 정치적 비용을 두려워함
  • AWS는 강한 컬트적 추종 보유
    • 인증을 통해 실제 판매 페이지와 제품 설명을 암기하도록 교육
    • 실용주의 대신 교조주의를 주장하는 복음 전도자(evangelists) 보유
    • 외부 세계에 대한 두려움 주입(서버는 위험하다! 확장되지 않는다!)
    • "클라우드 엔지니어"를 정체성으로 만들고, 진입은 쉽게 하되 탈출은 어렵게 함
  • 생계가 걸려 있기 때문에 AWS 추종자들은 교조에 사로잡혀 비이성적 논쟁을 반복
    • AWS 판매 랜딩 페이지의 논점을 하나하나 반복하며, 실제로 필요한지 생각하지 않음
    • 믿음 체계에 대한 논쟁이라 사람들이 비이성적으로 변함

클라우드의 역사

  • 과거에는 모두가 자체 서버 운영
    • VPS, 호스팅 서비스, 데이터센터의 베어메탈, 회사 내 어두운 방, 또는 집에서
    • 모두가 머신에 SSH 접속하는 것에 익숙하고 편안했음
  • 2010년대 초 클라우드 마케팅 사이옵스(psyops) 캠페인 시작
    • 기업 기술을 초기 단계 스타트업에 판매하려는 의도적 움직임
    • 가능한 한 일찍 종속시켜 자금 조달 시 착취하려는 전략
  • AWS의 전략
    • 스타트업 전용 크레딧 제공 시작
    • 스타트업 액셀러레이터를 돌며 모든 스타트업을 온보딩하려 함
    • 트릭은 간단: 스타트업이 인프라를 구축할 때 극도로 저렴하게(무료!) 만들고, 성장하면 모든 것을 극도로 비싸게 만들어, 종속되어 생태계 탈출이 어려운 상황을 즐김
  • IBM 클라우드도 유사한 전략 (2014년 이벤트)
    • 당시 Heroku에서 모든 것을 운영 중이었고 잘 작동했음
    • "이 모든 클라우드가 무엇이고 어떻게 사용하나?"라는 의문
    • 자신들을 위해 설계되지 않은 것을 판매하려는 느낌
  • 이들 기업이 지난 수년간 수백만 달러를 클라우드 홍보 캠페인에 투입해 초기 스타트업을 엔터프라이즈 기술 채택으로 유도
    • 지난 10년간의 제로 금리가 현재 상태에 도달하는 데 기여
  • 현재 반문화 운동 존재
    • 주로 @dhh와 Rails 커뮤니티가 주도
    • 지구상 대부분의 소프트웨어 비즈니스 현실과 근본적으로 신선하고 올바르며 일치

대부분의 비즈니스는 클라우드가 불필요

  • 일부는 실제 소프트웨어 비즈니스가 어떤 모습인지 완전히 동떨어진 인식
    • Fortune 500 관점으로 생각하며, 엔터프라이즈가 표준이라고 믿음
    • 평균 비즈니스에 고가용성, 멀티존 복제, 자동 페일오버, 분산 Kubernetes 클러스터 등 클라우드의 모든 기능이 필요하다고 생각
  • 실제로는 극소수의 소프트웨어 비즈니스만 이런 것이 필요
    • 대부분의 비즈니스는 멱함수 법칙에 따라 항상 소규모일 것
    • 미국에서는 소규모 비즈니스가 전체 비즈니스의 99.9% 차지
    • 유럽연합에서는 SME(직원 250명 미만)가 전체 비즈니스의 99%를 차지
  • 대부분의 개발자가 확장 요구사항을 과대평가
    • "높은 트래픽"에 대한 기준이 너무 낮음
    • 참고 지점: 현재 2서버 설정으로 일일 수백만 건의 요청을 수백만 월간 방문자에게 처리
    • @levelsio 같은 인디 메이커는 모든 것을 단일 서버로 처리
    • 대부분의 개발자는 실제 사용자와 프로덕션 트래픽을 가진 자신의 프로젝트를 단일 서버에서 운영해본 적이 없음
  • 기술적 요구사항도 과대평가
    • 극소수의 소프트웨어 비즈니스만 이런 기능이 필요하며, 보통 기술적 결정에 대한 충분한 이유 보유
    • Netflix 같은 경우: 전 세계 고객에게 엄청난 양의 비디오를 트랜스코딩하고 스트리밍해야 하므로 분산 시스템, CDN, 엣지 컴퓨팅이 필요
    • 천 명의 사용자를 가진 작은 앱이 JSON 객체만 주고받는다면 그런 것이 절대 불필요
  • 많은 개발자가 자신의 프로젝트를 Netflix처럼 생각하는 마법적 개념 보유
    • 희망적 사고이며 이해는 하지만, 잘못된 기술적 결정으로 이어짐
    • 버튼을 탭할 때 몇 밀리초 지연 차이를 사용자가 알아챌 것이라 생각해 전 세계에 분산 서버가 필요하다고 믿음

서버는 괜찮을 것

  • 많은 사람이 데이터센터 작동 방식에 대해 마법적 생각 보유
    • 데이터센터의 서버가 취약하고 변동성이 크며 공중으로 사라질 수 있다고 생각
    • 심지어 번개가 전체 데이터센터를 무너뜨릴 수 있다고 생각하는 사람도 있음
  • 현대 데이터센터는 이미 모든 문제를 고려하고 많은 보호 장치 구비
    • 번개 같은 평범한 것뿐 아니라 가동 시간을 위협할 수 있는 거의 모든 것에 대한 보호
    • 중복 전원, 중복 냉각, 중복 인터넷 연결, 중복 소화 시스템, 중복 보안 시스템과 많은 물리적 보안
    • 데이터센터의 모든 것은 가동 시간을 보장하기 위해 복원력과 중복성(최소 N+1, 때로는 2N)을 염두에 두고 설계
  • 이는 주로 두려움 기반 의견이며, 성공적인 클라우드 마케팅과 사이옵스 캠페인의 결과
    • AWS는 어디에 머신을 저장하는가? 무지개 아래 마법 장소?
    • 어떻게 AWS 머신만 다른 데이터센터도 가진 문제로부터 마법처럼 보호되는가?
  • 재난 발생 가능(OVH 2021 화재)하나 복구를 위한 백업 필요
    • 약 15년간 서버를 운영한 경험상 드물며, 몇 분 이상의 다운타임을 경험한 적 없음

서버 관리는 풀타임 작업이 아님

  • 충분히 오래 서버를 관리한 사람은 초기 설정에 대부분의 시간을 소비하며, 이후 서버는 비교적 안정적임을 알고 있음
  • 하드웨어 장애는 비교적 드물며, 서버가 가동되면 보통 수년간 큰 개입 없이 완벽하게 작동
  • 자체 서버 관리는 풀타임 작업이 아님
    • 5명의 devops 팀 고용 불필요
    • 서버 담당자 고용도 불필요: 직접 할 수 있으며 그렇게 어렵지 않음
  • Claude와 ChatGPT가 리눅스 시스템과 관리 방법에 대한 좋은 이해 보유, 도움 요청 가능
  • 트윗 게시 후 사람들은 이것이 첫 서버 운영이라 생각하고 서버 운영의 실제 의미에 대해 지나치게 낙관적이라고 주장
    • 2006년부터 서버 관리 경험 보유
    • PHP 스크립트 편집 및 FTP 서버 업로드로 시작
    • WordPress 설치 방법 학습, WP 템플릿 편집 후 모든 것이 뒤따름
  • 귀중한 경험이었으며 기초를 가르쳐줌
    • 리눅스가 무엇인지, 탐색 방법 학습
    • 2007년까지 Canonical에 Ubuntu CD-ROM 요청해 우편으로 받아 부모님 컴퓨터 파티션에 설치해 리눅스 학습
  • 이러한 초기 경험이 웹 개발의 기초를 가르쳐줌, 다른 모든 것은 그 위에 구축됨

리눅스 학습의 중요성

  • 신세대 개발자(Z세대, 알파세대)가 소프트웨어를 실행하는 하드웨어와 완전히 단절
    • 이러한 종류의 기초 경험 부족
    • YouTube의 무작위 사람이 특정 벤더를 홍보하고 모든 인프라 문제를 마법처럼 해결하는 특정 명령 실행을 가르치는 시대에 태어남
    • 서버가 무엇이고 어떻게 작동하는지에 대한 마법적 가정 보유가 합리적
  • "서버리스"로 일을 할 수 있다고 주장하지만 여러 다른 박스에서 코드를 실행하고 있다는 사실을 깨닫지 못함
    • 물론 많은 이들이 리눅스와 서버에 대해 더 배우지만, 평균적인 부트캠프 졸업생은 20년 전 FTP 해커들이 가졌을 실습 리눅스 경험 부족
  • 이에 대한 도덕적 판단은 하지 않음, 좋고 나쁨을 따지지 않음 – 현재 웹 개발의 상태일 뿐
  • 결과는 Vercel 같은 회사가 자신이 무엇을 하는지 모르고 평생 서버를 운영해본 적 없는 신세대 개발자를 자본화해 수백만 달러 벌고 있음
  • 무지는 이중 대가: 무지 자체와 사람들이 그 무지를 이용하는 데 지불하는 대가
    • 사물이 어떻게 작동하는지 모르면 실제로 돈이 듦

지금은 서버를 배우기에 최적의 시기

  • 자체 서버를 관리한 적이 없고 백엔드 냄새가 나는 모든 것이 두렵더라도 괜찮을 것
  • 실제로 서버를 잘 다루기에 이보다 좋은 시기는 없었음
    • Claude와 ChatGPT 모두 리눅스에 대해 매우 잘 알고 있으며, 기술 역사상 전례 없는 방식으로 단계 안내 가능
    • 설정 방법과 작동 원리 이해뿐 아니라, 변경이 필요할 때 누구도 고용할 필요 없이 질문하고 단계를 따를 수 있음
    • 그렇게 무섭지 않으며, 그렇게 자주 할 필요도 없음
  • 코드 생성이 표준이고 코드가 상품이 될 수 있는 AI 시대에, 그 코드를 저렴한 프로덕션 서버에 배치하고 실제로 최종 사용자에게 유용하게 만드는 방법을 아는 것이 개발자로서 핵심 차별화 요소가 될 수 있음
  • 보안 같은 것에 대해 걱정해야 하는 것은 사실
    • EC2 인스턴스는 해커로부터 마법처럼 보호된다는 듯이 자체 서버 운영이 AWS 서버 운영보다 덜 안전하다는 주장은 무시할 것,
    • 실제로는 올바르게 설정하는 것이 그렇게 어렵지 않음, 가이드와 설정 스크립트 참조만 하면
    • 많은 개발자가 더 경험이 많지만 AI를 갖춘 당신보다 훨씬 더 나쁘게 프로덕션에서 일하고 있음
    • ChatGPT에게 리눅스 서버 강화 방법과 보안 모범 사례(비밀번호 인증 사용 안 함, 강력한 SSH 키만 사용) 따르는 법을 물어보면 90% 완료
  • Cloudflare로 추가 보호 계층 제공
    • 리눅스 박스를 잠근 후 모든 것 위에 Cloudflare 실행
    • DNS에서 서버 IP를 프록시해 노출하지 않으면 완벽
    • DDoS 보호, 엣지 캐싱, 최고급 DNS를 본질적으로 무료로 제공

클라우드는 서버를 관리하기 싫거나 수요가 예측이 쉽지 않을 때 빠른 스케일링을 위해 사용하는거죠. 그 외의 사용례에 의미가 있는지 모르겠습니다.

다 동의하지만 직접 서버를 년 단위로 운영할 때 보안 관점에 대한 서술이 없는 게 아쉽습니다

개인적으로 클라우드를 최대한 배제하고 서비스 구축해보려니까 환장하겠더군요.

컨테이너 이미지 저장소가 필요했는데, 구축하려고 하니 로컬 스토리지는 부담스럽고, 백업 편의를 위해서 s3 compatible을 알아보고, 외부 접근을 차단하려고 vpn 서비스도 올리고, 리버스 프록시에 https 인증서 관리에 ci/cd 보안을 위한 여러 설정까지... 자체구축...

클라우드에서 단순한 서비스 몇개만 쓰는 경우라면 당연히 베어메탈이 저렴하고 그렇게 쓰는게 맞을 겁니다. 다만 다른 서비스들과 연계가 필요하고 이런저런 부담을 덜어내고 싶다면 지금 당장 서버 비용이 비싸더라도 저런 서비스 하나하나 일일히 구축할 필요가 없다는 점에서 설치/관리 비용이 빠지는게 이득이 될 수도 있을 것 같아요.

이미지 저장소 오픈 소스 많이 있습니다.

많죠. 직접 운용해야하는 부담을 말하는거였습니다. 저도 넥서스나 하버 씁니다.

개인 경험은 부담이나 문제 없었는데요.
부담의 기준이 서로 다를수 있으니 그렇게 생각 될수도 있겠군요.

어떤 서비스를 개발하시기에 컨테이너 이미지 저장소가 필요하신가요?

어떤 서비스를 개발해도 컨테이너 배포를 선호하기때문에 그렇습니다. 배포도 최대한 ssh 직접연결 없이 하는걸 선호하고요. 비용만 생각한다면... 레지스트리 없이 직접 배포 가능한 방법들도 있긴 할거같은데, 예시를 생각해본거고 이메일 서비스라던지 좀 불편한 부분들이 생기는것에 초점을 두고싶어요.

글쎄요.. '클라우드 비용이 필요 이상으로 비싸다', '대부분의 경우 대형 클라우드 기능이 필요없다'까지는 백번 동의하지만, 마치 클라우드 서비스는 전부 사기라고 주장하는 듯한 어조가 글 읽기를 껄끄럽게 만드네요. '보험 상품은 전부 사기다' 라고 하는 것처럼 들려요.

온프레미스로 필요한 인프라를 직접 구축하는데 들어가는 시간과 노력을 생각하면 클라우드 서비스가 그렇게 비싸다는 생각은 들지 않습니다.

이케아, 다이소 같은 개념이라 생각돼요.
매우 가성비이고 합리적인 클라우드 서비스도 있을겁니다.
그런데 그걸 쓰다보면 이제 조금비싸보이는것들을 같이 쓰게되는거죠.
(대충예시입니다) 람다쓰면 이제 api gateway 쓰게되고 요건좀비싸고불편 -_-^
이런식이죠.

그나저나 매우 동감가는것은.
AWS가 이들에게 편리한 이유
기술적으로 복잡해 보여 다른 개발자 앞에서 똑똑해 보이게 함

위 문장입니다.
솔직히. aws서비스 오래돼서 진화되어오면서 deprecate 마저 시키지못한 기능들 여럿있는데 이것들을 잘알고 하는것이 멋잇어보였어서 저도 sa 따고 했었어서 ㅋㅋ.. 동감 빡~~

클라우드, 온프레미스, IDC 각각 장단점이 있으니, 결국엔 사용 목적과 규모에 맞는 선택이 핵심이겠죠.

백업 복구만 한 번 경험해도 아마 가치를 느끼지 않을까요? 온프레미스는 백업 복구가 제일 골치아파요

가장 큰 전제가 '하드웨어 장애는 거의 없다'인데...

겪어본바로는 회사에서 IDC에 랙 대여해서 서버 운영할 때 3일에 한번꼴로 디스크가 사망하느라
디스크 갈고 레이드 복구하러 다니던 기억이 있다보니...

웬만하면 그냥 클라우드 쓰라고 합니다.
하드웨어 망가졌을 때 '딸깍'으로 다시 올리는게 얼마나 큰 가치인데.....

3일에 한번꼴로 디스크가 죽는건 좀 이상하네요...
일반적인 케이스는 아닌것 같아요.

10년이상 지난 이야기이고, 아마도 시게이트..였을겁니다.

backblaze가 작년에 4372개가 고장났고 발표했으니 그 정도 규모면 2시간마다 드라이브 하나씩 고장나긴 합니다...

굉장히 큰 규모면 발생할 수 있는 빈도입니다.

음 제가 42U Rack 100개 규모 전산실에서 HPC, HCI, 초창기 Hadoop으로 구성한 분산파일시스템, 온갖 스토리지가 있는 환경에서 꽤 오래 근무했지만 3일에 한번씩 디스크 나가는건 본적이 없습니다.

클라우드가 비싸다는것에는 백퍼센트 동의합니다.

그렇지만 지금 200개가 넘는 컨테이너를 베어메탈에서 쿠버네티스 직접 설정해서 사용해야 한다고 생각하면

1인 백엔드 개발자, no devops인 상황에서 한명 인건비 절반의 절반 비용으로 서버 관리 운영에 대한 부담이 줄어든다고 생각하면 나름 나쁘지 않은 선택인것도 사실입니다.

서버 인프라 관리"만" 하는 인원이 있다면 탈-클라우드는 분명 좋은 옵션이 될수 있을지도요.

Hacker News 의견
  • 나는 수년째 직접 서버를 운영하며 단순함을 유지하고 많은 시간과 비용을 절약해왔음
    AWS나 Azure는 설정이 복잡하고 UI도 별로라서 피하고 있음
    중요한 건 서버를 언제든 구성 파일만으로 재생성할 수 있게 관리해야 한다는 점임. 그래서 Ansible 같은 도구가 필수임
    클라우드를 꼭 써야 한다면 DigitalOcean을 추천함. 단순하고 직관적이라 정신 건강에 좋음
    나는 DO를 재해 복구 3단계 용도로만 쓰고, Terraform과 Ansible로 클러스터를 자동 구성함
    대부분의 개발자 커뮤니티는 유행에 휩쓸리는 경향이 있는데, 나는 그런 분위기 속에서도 내 물리 서버 클러스터에 JVM 기반 Clojure 모놀리스를 배포하며 안정적인 수익을 내고 있음

    • 혹시 당신의 앱과 수익 구조에 대해 읽을 수 있는 글이 있는지 궁금함
    • 서버를 직접 관리하려면 알아야 할 게 정말 많음
      ulimit 설정, syn cookies 성능 문제, 보안 업데이트, 제로데이 공격 대응, 이메일 발송(IP 워밍업, 스팸리스트 관리), GDPR 준수 등
      이런 모든 게 내 책임이 되며, 클라우드를 쓰는 사람들이 단순히 ‘속은 사람들’은 아님
  • 나는 흑백논리를 싫어함. 대부분의 스타트업은 EC2 대신 Hetzner, Linode, DigitalOcean 같은 곳으로 옮기면 비용을 많이 절약함
    하지만 클라우드에도 장점이 많음 — 백업, 관리형 DB, 다중 AZ 같은 기능을 클릭 몇 번으로 쓸 수 있음
    초기 하드웨어 투자비가 없고, 피크 부하가 큰 경우엔 오히려 더 저렴할 수도 있음
    다만 엔지니어링 시간의 가치가 크기 때문에, 빠른 성장 단계에서는 클라우드가 합리적일 수 있음
    결국 클라우드는 비싸서가 아니라 불필요한 기능을 쓰기 때문에 비싼 것임

    • 백업은 다른 클라우드 제공자에 두는 게 더 안전하다고 생각함. 계정 해킹이나 분쟁 시 보호됨
      멀티클라우드 전략이 재난을 막은 사례도 많음
      VPS나 전용 서버도 초기비용이 거의 없고, 피크 부하가 아주 극단적이지 않다면 클라우드가 꼭 더 싸진 않음
      관리형 DB는 편하지만 강제 업그레이드가 많고, 대규모가 아니라면 직접 관리가 더 낫다고 봄
    • Linode나 DO도 초 단위 과금과 확장성을 제공하므로 클라우드의 일부
      예전엔 하드웨어 확장이 어려웠지만, 지금은 단일 서버로도 과거 랙 단위 성능을 낼 수 있음
      중간 규모 프로젝트는 이제 클라우드가 해결하던 문제를 자체적으로 해결 가능함
    • 사실 대부분의 프로젝트는 집의 리눅스 박스와 Cloudflare 터널만으로도 꽤 멀리 갈 수 있음
    • 작은 규모에서는 AWS가 Hetzner보다 2배 정도 비싸지만 큰 차이는 아님
      다만 외부 인력 지원을 받기엔 클라우드가 훨씬 쉽고, 셀프호스팅은 지원 인력을 구하기 어려움
      나는 개인적으로 셀프호스팅을 선호하지만, 인프라를 직접 다루기 싫은 사람에게는 클라우드가 낫다고 생각함
    • AWS 문서를 읽는 데만도 시간이 꽤 걸림
  • 예전에 헤지펀드 스타트업에서 IT를 맡았음
    듀얼 Xeon 서버(512GB RAM)로 C++ 분석 프로그램을 돌렸는데, 사장이 점심 자리에서 “왜 AWS 안 쓰냐”는 말을 듣고 불안해함
    ‘버즈워드 준수’ 가 효율보다 더 중요하게 여겨지는 현실을 봄
    많은 CTO가 이런 분위기 때문에 불필요하게 큰 예산을 쓰며, 효율적인 구조는 오히려 마케팅 약점이 되는 세상임

  • “10배 절약” 표현은 논리적으로 틀림. 10배는 더 많다는 뜻임

    • “10배 절약”도 가능함. 절약액을 기준으로 보면 10배 더 절약할 수 있음. 결국 언어의 의미보다 감정 표현이 우선되는 시대 같음
    • 영어에서 “x배”는 동사에 따라 증감 모두 표현 가능함. “10배 절약”은 “10으로 나눈다”는 뜻으로 오래전부터 쓰였음
    • 명확한 표현력은 초능력 같은 것임. 사소한 문제로 보이지 않음
    • 예시 계산으로 보면 절약액이 4배 늘어난 경우 “4x saving”이라 표현 가능함
    • 지연시간을 1초에서 100ms로 줄이면 “10배 빨라졌다”고 말할 수 있음. 결국 기준점을 어디에 두느냐의 문제임
  • 서버 비용보다 유지보수 노동비가 더 큼
    EC2 인스턴스 10대를 운영해도 Systems Manager로 자동 패치가 가능하므로, 직접 자동화 구축할 필요가 없음

  • 클라우드 논쟁은 흑백이 아님
    소규모는 Hetzner나 AWS 모두 비슷하고, 대기업은 자체 툴링을 만들 수 있느냐가 관건임
    중견기업(SME) 구간이 가장 애매함. 고객별로 완전 분리된 시스템이 필요하면 AWS가 유리하고, 24/7 일정 부하라면 자체 서버가 낫음
    클라우드를 VM 호스팅 용도로만 쓰면 손해임. 클라우드 기능을 안 쓰면서 비용만 내는 경우가 많음

    • 월말·월초에만 트래픽이 폭증하는 금융 서비스처럼 단기 확장성이 필요한 경우 클라우드가 유리함
      자체 서버는 한 달 내내 최대 용량 비용을 내야 하지만, 클라우드는 필요한 며칠만 비용을 지불함
  • 클라우드는 MVP 구축과 시장 검증에 매우 유용함
    스타트업 크레딧과 무료 티어로 빠르게 실험 가능하고, 이후 비용이 문제되면 옮기면 됨
    단, 처음부터 서버 독립적인 아키텍처로 설계해야 하고, 마이그레이션 시간 확보가 어려움
    우리 팀은 Google Cloud를 쓰지만, 지출이 적어 영업 담당자가 불만임
    클라우드 간 이동 가능성은 협상력으로 작용함
    또한 클라우드는 SLA나 데이터 보호 규정 대응이 쉬워 기업 고객 신뢰 확보에 유리함

    • 요즘은 벤더 종속성(lock-in) 에 덜 민감한 분위기임. 하지만 AWS의 내장 서비스는 다른 곳으로 옮기기 어렵게 만듦
    • 클라우드 제공자마다 API와 서비스가 달라 표준화된 서버 독립성을 유지하기 어렵고, 락인은 오히려 심해짐
  • AWS가 초기에 폭발적으로 성장한 이유가 궁금함
    2010년대 초엔 랙 임대와 서버 구축이 비싸고 느렸으며, 멀티리전 구성도 거의 불가능했음
    AWS는 이런 문제를 해결했지만, 지금은 상황이 달라졌음
    Squarespace가 허리케인 Sandy 때 직접 연료를 들고 서버를 살린 일화도 있었음

    • 대부분의 사람에게는 전용 서버 임대가 최적의 중간 지점임
      Hetzner에서 서버 주문 후 10분 만에 Ubuntu 설치와 Ansible 설정 완료 가능함
      고정 요금, 무제한 대역폭, 예측 가능한 성능 — 불필요한 추상화 없는 단순함이 매력임
    • AWS는 기술적 이유뿐 아니라 조직 정치 때문에도 확산됨. 팀이 IT 부서 승인 없이 자체 예산으로 서버를 쓸 수 있었음
    • 2000년대 초 SaaS를 운영했을 때는 전용 서버가 너무 비싸서 직접 1U 서버를 사서 데이터센터에 넣었음
      EC2는 이런 불편을 없애줬고, Lambda는 더 나아갔음. 지금은 베어메탈 임대가 훨씬 저렴해졌음
    • 2005년 이후 컴퓨팅 파워는 100배 이상 늘었지만 AWS 가격은 그만큼 떨어지지 않았음
    • Docker의 등장은 큰 변화를 가져왔음. 예전엔 VMware 라이선스와 하드웨어가 비쌌지만, 이제는 오픈소스 컨테이너화로 AWS의 이점이 줄어듦
      과거 AWS의 무료 크레딧 정책은 사실상 락인 전략이었음
  • 직접 서버를 데이터센터에 넣는 건 생각보다 어렵지 않음
    나는 게이밍 서버를 위해 고클럭 CPU가 필요했는데, 클라우드에서 구하기 힘들어 직접 구축함
    설치비 포함 월 £15 정도로 운영했고, 수년간 잘 돌아감. 결과적으로 큰 비용 절감 효과가 있었음

    • 2000년대 초에도 이런 식으로 직접 하드웨어를 랙에 넣는 경우가 많았음.
      시애틀 데이터센터에 장비를 두고, 모뎀 기반 KVM으로 원격 관리했음
    • 부품 교체나 업그레이드가 필요할 때는 데이터센터의 현장 엔지니어가 처리해줌
    • 문제는 설치가 아니라 유지보수의 지속성임. 직접 서버를 돌리는 건 생각보다 손이 많이 감
  • 우리는 몇 년 전 Hetzner로 이전했고, 절감 효과 덕분에 다시 클라우드로 돌아갈 일은 없을 듯함
    예외는 Cloudflare Workers, 품질이 좋고 무료 할당량이 넉넉함
    AI 덕분에 자동화·배포·백업 스크립트 작성이 훨씬 쉬워져서 이전보다 관리가 간단해졌음
    참고로 Anthropic의 Claude Code가 Pro/Max 사용자에게 11월 18일까지 $250 무료 크레딧을 제공 중임
    관련 공지는 이 트윗에서 확인 가능함