# 오픈소스 LLM vs 빅테크 LLM API: AI 사업의 비용과 리스크 정리

> Clean Markdown view of GeekNews topic #31593. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=31593](https://news.hada.io/topic?id=31593)
- GeekNews Markdown: [https://news.hada.io/topic/31593.md](https://news.hada.io/topic/31593.md)
- Type: news
- Author: [chessire](https://news.hada.io/@chessire)
- Published: 2026-07-20T09:18:01+09:00
- Updated: 2026-07-20T09:18:01+09:00
- Original source: [chessire.tistory.com](https://chessire.tistory.com/entry/opensource-llm-vs-bigtech-api-cost-risk)
- Points: 7
- Comments: 0

## Topic Body

**GPT-4.5, 상업 수명 4.5개월**  
  
- 2025년 2월 출시된 당시 최고가 모델 GPT-4.5(입력 $75/출력 $150 per 1M 토큰)가 5개월이 되기 전 API에서 제거됨. OpenAI 역사상 최단명 모델이며, 그 위에 제품을 만든 개발자들은 마이그레이션 사이클에 갇힘  
- 시장이 꺼낸 교훈은 "남의 모델 위에 사업을 짓지 마라"였는데, 이 교훈이 절반만 맞다는 것이 이 글의 주제임  
  
**모델 층은 커모디티화 중**  
  
- SWE-bench Verified 기준 상위 모델 5개가 0.4점 이내에 몰려 있는데 가격은 5배 차이. 시장 전체로는 최저가 토큰과 프리미엄 추론 토큰의 격차가 600배 이상 - 가격이 더 이상 성능의 대리 지표가 아님  
- 오픈웨이트와 폐쇄형 프론티어의 격차는 공개 벤치마크 기준 평균 4개월(프라이빗 벤치마크로는 8~10개월) 수준에서 18개월 넘게 안정적임. 격차는 실재하지만 **좁고, 예측 가능하고, 벌어지지 않음**  
  
**프론티어 API 의존의 리스크 4가지**  
  
- 가격 변동: Claude 3.5 Haiku는 4배 인상 후 한 달 만에 부분 철회, o3는 하루아침에 80% 인하. 신형 토크나이저가 같은 텍스트에서 최대 35% 더 많은 토큰을 만들기도 함 - 문제는 인상/인하 방향이 아니라 **분산**임  
- 폐기 사이클: 2026년 2월 GPT-4o, 4.1, o4-mini가 약 3개월 예고로 일괄 중단. 1년간 다듬은 프롬프트가 새 모델에서 다르게 동작하는 "prompt drift"라는 말까지 생김  
- 플랫폼 흡수: 래퍼가 하던 기능을 제공사가 자기 제품에 넣어버리는 GPT 래퍼 취약성  
- 규제: 2026년 6월 Anthropic Fable 5가 미국 수출통제 지침으로 19일간 전 세계 일괄 정지됨 - 제공사조차 선택할 수 없는 변수  
  
**네 리스크는 하나의 문제에서 비롯됨 - 남의 호스팅 프론티어 의존**  
  
- 오픈소스 자체 구동은 가격 변동, 폐기, 규제 정지를 소거하고 플랫폼 흡수를 완화함. 이미 받은 웨이트는 폐기되지도 회수되지도 않음  
- 비용은 정직하게: 소비자 GPU 자체 구동 시 백만 토큰당 약 $1(3년 감가+전기료, 가동률 30%), 최저가 오픈웨이트 API($0.14/$0.28)보다 비싸서 **절대 비용으로는 짐**  
- 자체 구동의 경제성은 평균이 아니라 분산에 있음. 덧붙여 최저가 API는 입력 데이터를 학습용으로 보존함 - **최저가의 숨은 가격은 당신의 데이터임**  
  
**같은 진단, 반대 처방**  
  
- 빅테크 규모에서 프론티어 API에 의존하는 콘텐츠 사업이 취약하다는 진단은 맞음  
- 그러나 소규모 플레이어가 good-enough 구간에서 오픈소스를 자체 구동하면 취약성을 만드는 의존성 자체를 끊은 것 - 빅테크의 진단을 소규모 스타트업에 그대로 복사하는 순간 틀림  
  
**공짜는 아님 (브레이크 4개)**  
  
- 커모디티 인풋은 커모디티 아웃풋을 만듦 - 해자는 AI에 직교하는 유통, 독점 데이터, 도메인 통합, 검증과 판단에서만 나옴  
- good-enough 선은 위로 움직임 - 그 선에 그냥 주차하면 마진 하락 구간에 주차한 것  
- 경계는 도메인이 아니라 과제 난이도임: NIST 평가에서 최상위 오픈웨이트는 수학에선 프론티어와 사실상 대등했지만 사이버, 추상추론, 장기 에이전틱 코딩에선 30점 이상 열세  
- 자체 구동은 운영, 튜닝, 검증 역량과 컴플라이언스 책임을 직접 요구함 - 의존이 사라진 게 아니라 API 제공사에서 **내 역량으로 이동**한 것  
  
**결론: 승부처는 검증과 판단**  
  
- 같은 오픈 모델을 써도 출력을 그대로 내보내면 데모, 사실, 수치, 식별을 검증 계층 뒤에 두면 제품임  
- AI Content의 승부처는 **싼 모델을 신뢰 가능한 제품으로 바꾸는 엔지니어링 판단**이며, 오픈소스는 그 판단을 가진 사람에게 무기가 됨  
  
직접 작성한 글입니다. 로컬 구동과 API 사이의 스택 설계에 대한 의견 교환 환영합니다.

## Comments



_No public comments on this page._