GPT-4.5, 상업 수명 4.5개월
- 2025년 2월 출시된 당시 최고가 모델 GPT-4.5(입력 $75/출력 $150 per 1M 토큰)가 5개월이 되기 전 API에서 제거됨. OpenAI 역사상 최단명 모델이며, 그 위에 제품을 만든 개발자들은 마이그레이션 사이클에 갇힘
- 시장이 꺼낸 교훈은 "남의 모델 위에 사업을 짓지 마라"였는데, 이 교훈이 절반만 맞다는 것이 이 글의 주제임
모델 층은 커모디티화 중
- SWE-bench Verified 기준 상위 모델 5개가 0.4점 이내에 몰려 있는데 가격은 5배 차이. 시장 전체로는 최저가 토큰과 프리미엄 추론 토큰의 격차가 600배 이상 - 가격이 더 이상 성능의 대리 지표가 아님
- 오픈웨이트와 폐쇄형 프론티어의 격차는 공개 벤치마크 기준 평균 4개월(프라이빗 벤치마크로는 8~10개월) 수준에서 18개월 넘게 안정적임. 격차는 실재하지만 좁고, 예측 가능하고, 벌어지지 않음
프론티어 API 의존의 리스크 4가지
- 가격 변동: Claude 3.5 Haiku는 4배 인상 후 한 달 만에 부분 철회, o3는 하루아침에 80% 인하. 신형 토크나이저가 같은 텍스트에서 최대 35% 더 많은 토큰을 만들기도 함 - 문제는 인상/인하 방향이 아니라 분산임
- 폐기 사이클: 2026년 2월 GPT-4o, 4.1, o4-mini가 약 3개월 예고로 일괄 중단. 1년간 다듬은 프롬프트가 새 모델에서 다르게 동작하는 "prompt drift"라는 말까지 생김
- 플랫폼 흡수: 래퍼가 하던 기능을 제공사가 자기 제품에 넣어버리는 GPT 래퍼 취약성
- 규제: 2026년 6월 Anthropic Fable 5가 미국 수출통제 지침으로 19일간 전 세계 일괄 정지됨 - 제공사조차 선택할 수 없는 변수
네 리스크는 하나의 문제에서 비롯됨 - 남의 호스팅 프론티어 의존
- 오픈소스 자체 구동은 가격 변동, 폐기, 규제 정지를 소거하고 플랫폼 흡수를 완화함. 이미 받은 웨이트는 폐기되지도 회수되지도 않음
- 비용은 정직하게: 소비자 GPU 자체 구동 시 백만 토큰당 약 $1(3년 감가+전기료, 가동률 30%), 최저가 오픈웨이트 API($0.14/$0.28)보다 비싸서 절대 비용으로는 짐
- 자체 구동의 경제성은 평균이 아니라 분산에 있음. 덧붙여 최저가 API는 입력 데이터를 학습용으로 보존함 - 최저가의 숨은 가격은 당신의 데이터임
같은 진단, 반대 처방
- 빅테크 규모에서 프론티어 API에 의존하는 콘텐츠 사업이 취약하다는 진단은 맞음
- 그러나 소규모 플레이어가 good-enough 구간에서 오픈소스를 자체 구동하면 취약성을 만드는 의존성 자체를 끊은 것 - 빅테크의 진단을 소규모 스타트업에 그대로 복사하는 순간 틀림
공짜는 아님 (브레이크 4개)
- 커모디티 인풋은 커모디티 아웃풋을 만듦 - 해자는 AI에 직교하는 유통, 독점 데이터, 도메인 통합, 검증과 판단에서만 나옴
- good-enough 선은 위로 움직임 - 그 선에 그냥 주차하면 마진 하락 구간에 주차한 것
- 경계는 도메인이 아니라 과제 난이도임: NIST 평가에서 최상위 오픈웨이트는 수학에선 프론티어와 사실상 대등했지만 사이버, 추상추론, 장기 에이전틱 코딩에선 30점 이상 열세
- 자체 구동은 운영, 튜닝, 검증 역량과 컴플라이언스 책임을 직접 요구함 - 의존이 사라진 게 아니라 API 제공사에서 내 역량으로 이동한 것
결론: 승부처는 검증과 판단
- 같은 오픈 모델을 써도 출력을 그대로 내보내면 데모, 사실, 수치, 식별을 검증 계층 뒤에 두면 제품임
- AI Content의 승부처는 싼 모델을 신뢰 가능한 제품으로 바꾸는 엔지니어링 판단이며, 오픈소스는 그 판단을 가진 사람에게 무기가 됨
직접 작성한 글입니다. 로컬 구동과 API 사이의 스택 설계에 대한 의견 교환 환영합니다.