21P by xguru 8일전 | favorite | 댓글 2개
  • 2025년 리포트 (90p 슬라이드) 간추린 요약 및 추가 설명
  • "내 삶에서 혁신적인 기술 데모는 딱 2개: GUI 와 ChatGPT - 빌게이츠"
  • OpenAI가 예상가치 $157B로 평가 받음 (Microsoft는 20년 걸림)
    • ChatGPT가 전례없는 속도로 메인스트림의 인지에 도달
    • 관심은 많지만 용도는 제한적이고 유용하다고 인식 못함
    • 벌써 시장에선 투자에 비해 이득이 없는 것 아니냐는 얘기도 나옴
  • Hype Cycle에서 "Plateau of Productivity(생산성의 안정기)" 도달하는 데에는 시간이 걸림
  • 차세대 플랫폼 시프트는 "Generative AI"
    • Mainframe → PCs / SQL → Web / Open Source → Smartphones / Cloud → Generative AI
  • 하지만 아직 모든 것이 열려있고 답은 모름
    • How far will this scale?
    • How is this useful?
    • How do we deploy this?

How far will this scale? 얼마나 확장될 수 있을까?

  • LLM이 점점 커질까(scaling?) - LLM이 '모든 걸(everythig)'하게 될까?
  • Scaling 은 어려움
    • 이 모델들을 키우는 것은 많은 도전이 있고 시간이 걸릴 것
      • GPU와 전력, 트레이닝 데이터, 실행과 엔지니어링, 결과가 더 좋아질까?
    • 지금으로써는 무조건 투자할 수 밖에 없음 (안하면 차후 10~15년간 가장 중요한 기술을 놓치게 될 것)
    • "우리는 해자가 없다 - 구글"
    • "현재 훈련중인 모델은 $1b에 가까운 비용이 드는데, 2025/2026엔 $5b 또는 $10b정도 들 것 - Anthropic CEO"
    • "Llama 4를 훈련하는데 필요한 컴퓨팅은 3의 10배 이상이고, 미래 모델들은 계속 그 이상으로 커질 것 - 마크 주커버그"
  • 해자가 "자본"이라면.. 현재 Nvidia는 수요를 감당하지 못함
  • 빅4(메타,알파벳,AWS,MSFT)의 Capex는 2023년 $90b 였고 2024년엔 $220b. 2025년엔 더 늘어날 것
  • 모든 것은 우리 발아래에서 기술 발전이 진행되며 빠르게 변화중
    • AI 기술이 앞으로 더 발전하려면, 성과(더 나은 결과), 방향성, 그리고 자원의 효율성(훈련 비용, 추론 비용, 탄소 발자국) 간의 균형을 맞추는 것이 중요
  • "무료로 출시하고, 입소문을 타고, 나중에 수익 모델을 고민하는 소비자 인터넷 모델은 오늘날의 대규모 언어 모델(LLM) 비용 구조와는 맞지 않음"
    • 전통적으로 소프트웨어는 초기 개발 비용이 높지만, 복사하거나 배포하는 데 거의 비용이 들지 않아 "한계 비용"이 거의 없는 제품이었음
    • LLM은 학습과 추론 과정에서 막대한 컴퓨팅 자원(전력, 서버 등)이 필요하며 사용자가 늘어날수록 비용도 크게 증가
    • 무료로 제공하면서 대규모 사용자를 확보하는 전략은 수익화 모델이 확립되지 않으면 지속 가능하지 않음
    • 즉, 처음부터 명확한 비용 회수 전략이 필요
  • "기술 산업의 모두가 다른 사람의 비즈니스 모델을 무료로 제공하고 있음"
    • 기술 산업 내에서 경쟁자 또는 다른 조직의 비즈니스 모델이나 핵심 기술이 오픈 소스나 다른 형태로 무료화되면서, 특정 기업의 독점적인 경쟁력이 약화
    • Meta가 AI 모델 등 중요한 기술 자산을 오픈 소스로 공개함으로써, 해당 기술이 누구나 사용할 수 있는 공통 인프라(commodity infrastructure)로 변하고 있음
    • Apple은 엣지 컴퓨팅 기술을 통해 사용자의 디바이스에서 직접 AI 모델을 실행하도록 유도, 중앙 서버에서 AI 모델을 실행하는 대신 모델이 단순한 API 호출 형태로 처리되도록 만들어 기술의 상업화 가치를 낮추고 있음
  • 2023-2024의 모델 붐: 좋은 것, 빠른 것, 저렴한 것 중에서 2가지를 선택하는 것이었음

How is this useful? 얼마나 유용한가?

  • 2013 : 머신러닝이 사람/개/의자를 구분하기 시작. "똑똑하네 그래서 뭐?"
  • 2023 : ChatGPT같은 생성형 ML은 유용한가? "똑똑하네 그래서 뭐?"
  • 에러 인식은 아직 제한적임. 효과적인 오류 처리를 위해 모든 측면에서 균형 잡힌 접근이 필요
    • 과학적 문제(모델 개선), 사용 사례 정의, 제품 설계(UX 개선)가 결합된 복합적인 과제
  • "2024년, LLM은 어떻게 유용한가?"
    • LLM은 본질적으로 다음 단어를 예측하는 확률 기반 시스템
    • 현재 수준: 정보 요약이나 종합에는 유용하지만, 복잡한 추론에는 아직 미흡
    • LLM은 새로운 종류의 작업을 자동화하는 잠재력을 가지고 있지만, 이를 완전히 이해하고 정의하려면 더 많은 탐구가 필요
  • VisiCalc은 세계 최초의 전자 스프레드시트 프로그램으로, 20시간이 걸리던 계산 작업을 15분으로 단축시킴
    • 이를 본 변호사는 그것이 매우 혁신적이고 똑똑하다고 생각할 수 있지만, 자신의 업무에는 적용할 일이 없다고 느낄수 있음
    • 하지만 그런 사례는 증가중
      • 코딩, 마케팅, 고객센터 등 명확한 필요성을 가진 작업에서 즉각적인 가치를 제공
  • "고객 경험에서 시작하여 기술로 거슬러 올라가야 한다. - 스티브 잡스"

How do we deploy this? 어떻게 이를 배포할 것인가?

  • 새로운 기술이 도입될 때 일반적으로 따르는 과정
      1. Absorb (통합) : 새로운 기술을 기능으로 만들고, 기존 비즈니스나 제품의 기능으로 추가
      1. Innovate (혁신) : 새로운 기술을 기반으로 혁신적인 아이디어나 제품을 개발. 스타트업은 이를 분리(언번들)하여 활용
      1. Redefine markets (시장 재정의): 새로운 기술은 기존 시장의 경계를 무너뜨리고 완전히 새로운 시장을 창출할 수도 있음. 이는 예측하기 어려우며, 성공 사례는 드문 경우도 있음
  • 기업이 새로운 기술을 도입할 때 고려하는 표준적인 질문들
    • "Buy versus build?" (구매할 것인가, 직접 개발할 것인가?)
    • "Single vendor or multi-vendor?" (단일 공급업체 또는 다수의 공급업체를 사용할 것인가?)
    • "Which use cases first? Whose budget?" (어떤 사용 사례를 우선적으로 다룰 것인가? 예산은 누구의 것인가?)
    • "Opex or capex? What’s the EPS impact?" (운영비용인가, 자본지출인가? 주당순이익(EPS)에 미치는 영향은?)
  • 미래는 오래 걸릴수 있음
    • 클라우드는 오래되었고 지겨운 단어지만, 아직도 전체 워크플로우의 30%에 불과함
    • 2024년에 CIO의 1/4은 LLM기반의 뭔가를 출시했지만, 절반은 내년에도 뭔가를 할 계획이 없음
  • 그러나 새 플랫폼은 새 도구를 의미함
    • SaaS들이 자동화에서 엄청 확장하여 SAP,Excel,Email에서 워크플로우를 언번들링함
  • "돈을 버는 두 가지 방법이 있다. 묶거나(bundle), 풀거나(unbundle).- Jim Barksdale "
  • LLM이 모든 것을 처리할 수 있다면 어떨까? : 모델이 충분히 발전하면, 우리가 필요한 소프트웨어가 훨씬 줄어들 수도 있을까?
    • LLM이 특정 작업을 처리하는 능력이 현재보다 더 좋아지지 않는다면, 새로운 소프트웨어 개발을 계속해야 할 것
    • LLM이 계속 확장 가능하고 발전한다면, 소프트웨어 개발의 많은 부분이 필요 없게 될 수 있음
      • 모든 것을 처리하는 "범용 AI로의 발전 가능성"
  • LLMs는 인프라인가? API인가? 플랫폼인가? 새로운 사용자 경험인가? : 논리적 시스템으로 LLM을 제어할 것인가, 아니면 LLM으로 논리적 시스템을 제어할 것인가?
    • LLM은 단순한 API로 사용될 수도 있고, 전체 플랫폼으로 자리 잡고 나머지 모두가 API가 될 수도 있음
    • 기술의 발전과 확장 가능성에 따라 LLM의 역할은 계속 진화할 것
  • LLM이 우리의 사용 사례 발굴 모델을 무너뜨릴까? : 모든 것이 동일한 UX를 가질 경우, 기업가들은 새로운 사용 사례와 자기 표현의 방식을 어떻게 발명할까?
    • 전통적인 소프트웨어 개발에서는 스타트업과 기업이 특정 사용 사례를 상상하고 발명
    • LLM이 모든 사용 사례를 처리하고 자동화할 수 있을 만큼 발전한다면, 전통적인 소프트웨어 개발의 필요성이 줄어들 수 있음
    • LLM이 UX의 중심이 되면, 사용자는 스스로 새로운 사용 사례를 상상하고 발명해야 할지도 모름
      • 소프트웨어 개발 및 UX 설계의 패러다임 전환
  • AI'는 '자동화'로 변하는 경향이 있다. : As technology matures, it disappears (기술이 성숙해지면, 사라진다.)
    • AI! → Smart → Auto → Just software
  • LLM 제품을 위한 세 가지 모델?
    • 기존 애플리케이션에 새로운 기능 추가: "내 이메일을 다시 작성해줘, 리뷰를 요약해줘"
    • 새로운 도구: "500개의 재무 보고서를 분석하고 요약해줘"
    • 범용 AI: "집을 한채 사줘"
  • 아마도 모든 AI 질문에는 두 가지 답변 중 하나가 있다.
    • "모든 플랫폼 변화와 마찬가지로 작동할 것이다."
    • "아무도 모른다"

Meanwhile...

  • 비전에서 실행까지 : 이미 큰 것은 무엇이고, 현재 만들어지고 있는 것은 무엇이며, 앞으로 올 것은 무엇인가?
    • 2000년대 초반에는 전자상거래(e-commerce)가 주요 혁신 아이디어였음 : "사람들이 온라인으로 물건을 구매할 것"
    • 2010년대에는 SaaS(Software as a Service), 자동화, 협업 툴, 워크플로우 관리와 같은 아이디어가 주목받음
    • 2030년을 목표로 생성형 AI(Generative AI)가 새로운 비전으로 자리 잡고 있음
  • 메타는 아직도 메타버스 하는중(VR & AR). 그동안 적어도 $60b 투자했고, 지난 12개월간 $17.4b를 투자함
  • 이커머스는 아직 그대로(COVID기간만 예외였음). 기술 그래프중 가장 지루한 차트임
  • Unbundling 아마존: Shopify의 GMV(Gross Merchandise Volume)가 $270b 돌파. 아마존 GMV의 35% 규모가 됨
  • 아마존의 광고 매출이 계속 증가. 리테일/AWS 보다 더 많은 캐쉬플로우
  • Software eats media(소프트웨어가 미디어를 먹어치우다): 새로운 채널, 새로운 모델, 새로운 번들
    • YouTube, TikTok과 같은 소프트웨어 중심의 미디어 플랫폼은 전통 미디어와 유사한 수익을 기록하며, 미디어 시장의 강자로 부상
    • Disney와 같은 대규모 전통 미디어 회사는 여전히 강력한 수익을 기록하지만, 소프트웨어 플랫폼의 성장 속도에 직면
    • 스트리밍(Netflix)과 같은 새로운 형태의 미디어는 전통적인 케이블 및 방송 중심 모델에 도전
    • 전통 미디어는 콘텐츠 라이브러리 및 독점 콘텐츠로 경쟁력을 유지하려고 하며, 소프트웨어 플랫폼은 광고 기반 모델과 구독 기반 모델을 결합하여 수익을 극대화
  • Software eats cars?(소프트웨어가 자동차도 먹어치우나?): 수십 년간의 약속과 수백억 달러의 투자 끝에, 자율주행이 작동하기 시작했을지도 모름
    • 로보택시 주행횟수가 꾸준히 성장중. 자동차 산업이 소프트웨어 중심의 서비스로 전환
  • 자동차가 소프트웨어가 되나?: BEV가 전체 판매의 10%에 가까워지고 있지만, 누가 승리할까? 이 과정이 Android처럼 작동할까?
    • 순수 전기차(Battery Electric Vehicle)는 2023년에 전체 자동차 판매의 약 10%를 차지하며, 주류 기술로 자리잡는중
    • Tesla와 같은 회사는 BEV를 단순한 차량이 아닌, 소프트웨어 중심의 제품으로 변환. BEV가 스마트폰과 유사한 소프트웨어 중심 생태계를 형성할 가능성을 암시