▲

AI의 3,440억 달러 ‘언어 모델’ 베팅은 불안정해 보인다

 (bloomberg.com)
6P by GN⁺ 3일전 | ★ favorite | 댓글 2개
  • 올해 글로벌 빅테크 4대 기업은 3,440억 달러를 AI에 지출하며, 대부분을 대규모 언어 모델(LLM) 훈련·운영용 데이터센터에 투자하고 있음
  • LLM은 이미 7억 명 이상이 매주 ChatGPT를 사용할 정도로 대중화에 성공했지만, 발전 속도가 둔화되고 환각·높은 비용·미미한 성능 개선 같은 한계가 드러나고 있음
  • 중국 DeepSeek은 더 작고 효율적인 모델을 공개하며 시장을 놀라게 했고, Covariant(로보틱스), Atman Labs(비딥러닝 접근) 같은 기업들은 물리 세계 반응형 AI를 탐구하고 있음
  • 최근 연구에 따르면 LLM의 사회적 추론 능력은 소수 특성에 의존해 작은 변경에도 취약하며, OpenAI도 취약 계층 안전장치 실패 가능성을 인정했음
  • 전문가들은 LLM을 ‘토큰 생성기’ 에 불과하다고 비판하며, 단일 기술에 대한 집착은 시장 불안정성을 키울 수 있어 새로운 접근의 부상 가능성에 대비해야 한다고 경고함

거대한 AI 투자와 LLM 중심주의

  • 모든 투자자는 "모든 계란을 한 바구니에 담지 말아야 한다"는 것을 아는데, 왜 실리콘 밸리는 인공 지능(AI) 구축을 위한 단 하나의 방법에만 베팅하는 걸까?
  • 세계 4대 기술 기업이 2025년에 3440억 달러를 AI에 투자하며, 주로 대형 언어 모델(LLM) 훈련 및 실행을 위한 데이터 센터 구축에 집중하고 있음
  • LLM은 텍스트, 오디오, 시각 콘텐츠등 멀티모달 입력을 처리하며, 시퀀스 내 다음 토큰 예측 기법에 의존함
  • 개인용 챗봇이 빠르게 성장하며, 일부 AI 스타트업이 수익을 내기 시작하고 기업들이 생성 AI로 초기 생산성도 향상시키고 있음
  • LLM은 주류 채택을 달성한 최초의 AI 기술로, ChatGPT는 매주 7억 명 이상의 사용자를 보유
  • 일부 스타트업은 손익분기점에 도달했으나, 의료·법률 등 민감 분야에서는 환각 문제로 신뢰도 확보에 한계 존재

단일 기술 집착의 위험

  • 그러나 단일 기술에 집중하는 것은 위험하며, 과거 BlackBerry가 물리적 키보드를 고집하다 애플의 터치스크린에 밀린 것, Yahoo의 포털 베팅이 Google의 검색 지배에 밀린 것 같은 실패한 사례들이 있음
  • LLM 역시 같은 길을 걸을 위험이 있으며, 새로운 AI 접근법이 등장할 경우 대규모 투자가 좌초 위험을 안게 됨
  • 중국 DeepSeek가 1월에 더 작고 효율적인 LLM을 공개하고, 아키텍처를 오픈하며 시장에 놀라움을 주면서 비전통적 접근 가능성을 입증

대안적 접근의 탐색

  • AI 발전은 과거 통찰과 새로운 아이디어를 결합하며 이루어지며, 초지능 기계 추구도 다각적 접근 필요
  • Covariant 같은 스타트업은 데이터 패턴 분석 대신 공간 인식 소프트웨어를 개발하며 LLM 중심에서 벗어남
  • 로보틱스, 드론, 약물 발견, 기후 모델링 기업은 실시간 물리적 반응이 필요해 LLM 중심주의에서 벗어나 있음
  • 영국 Atman Labs는 딥러닝 이전의 잊힌 아이디어를 발굴하며, Google DeepMind의 초기 다중 트랙 접근법(예: AlphaGo, 강화 학습)을 반영

LLM 한계와 신뢰성 문제

  • 이제 대형 언어 모델 논리에 균열이 나타나고 있음: 엄청나게 높은 비용부터 수익 감소 전망까지
  • OpenAI나 Google의 최신 모델은 이전 모델보다 약간만 나으며, 더 많은 돈을 쏟아부어도 그러함
  • 그럼에도 환각 현상은 사라지지 않아 의료나 법률 분석 같은 기업에서 도입하는데 걸림돌이 됨
  • 최근 Nature 연구는 언어모델의 사회적 추론 능력이 극히 일부 특성에 의존해 작은 변경에도 붕괴할 수 있으며, 이는 신뢰성에 대한 근본적 질문을 제기
  • OpenAI는 장시간 대화 시 취약 계층 안전장치 붕괴할 가능성이 있따고 인정, 실제로 십대에게 자해 지침을 제공하는 사건 발생

업계 비판과 전망

  • Fei-Fei Li: “자연에 언어는 없고, 세상은 물리 법칙을 따른다”라며 언어 중심 한계 지적
  • Alex Karp(Palantir CEO): “실리콘밸리가 LLM을 과대 선전했다” 비판
  • Yann LeCun: LLM은 더 똑똑한 기계의 ‘막다른 골목’, “토큰 생성기”에 불과하며 물리적 주변을 이해하거나 미리 계획하지 못한다고 지적
  • 결론적으로 LLM은 지속되겠지만, 단일 해법에 집착하는 것은 위험하며, 투자자·기업은 새로운 기술 패러다임 전환 가능성에 대비해야 함
▲
mhj5730 3일전  [-]

GPT5부터는 추론으로 꾸역꾸역 성능 올리려는게 보이는데, 그마저도 쉽지 않아보이더라구요. 적당한 대답에서 멈추면 될 응답들이 이제는 수십줄로 주어지니 너무 부담됩니다. ㅠㅠ

답변달기
▲
GN⁺ 3일전  [-]
Hacker News 의견

  • https://archive.is/2rFK4 에서 보기

  • 이 기술은 데모에서 굉장히 인상적으로 보임, 모두가 정말 신나하는 현장임을 봄, 동료나 임원들이 자랑스럽게 시연하거나 끝없이 농담을 이어가는 모습이 예전에 사람들이 처음 핸드폰을 받았을 때 남에게 자랑하던 모습과 비슷하다는 생각이 듦, 그래서 실제 가치보다 과장되어 인식하는 경향이 생기며, 모바일 폰처럼 의미 있는 발전이지만 단기적으로는 과대광고만큼의 임팩트는 없을 것임, 특히 익명 포럼에선 ‘이거 과대포장’이란 지적이 많지만, 직업적 역할에선 다 같이 분위기에 동참하게 됨, 마치 다들 무슨 일이 일어날지 알면서도 파티가 계속되길 바라는 심정임

    • 내 상사가 AI를 지나치게 강조하면서 전 직원이 올인하라고 하면, 요즘 같은 어려운 구직 상황에선 많은 사람들이 두려움 때문에 동조하게 됨, 특히 AI로 인해 일자리가 줄고 있어서 더 그렇다고 느낌, 일부는 조용히 자신에게 맞는 LSP나 리팩토링 같은 현실적인 툴만 꾹꾹 써 나감, 전문 현장에선 소수만이 ‘황제는 벌거벗었다’고 용기 내서 말할 수 있음

    • 익명 포럼에선 AI가 일생을 바꿀 혁신이라는 의견이 오히려 많이 보인다는 점이 흥미로움, 적어도 전문가로 변장하지 않을 때 이런 관점을 더 쉽게 볼 수 있음, 직업적 역할을 할 땐 두 부류로 나뉨, 자신의 전문 분야가 아닌 곳에서 AI를 활용해오던 사람들은 무언가 핸드폰 혁명을 처음 본 듯 과장해서 칭찬함, 그러나 실제 자신의 전문 분야에 AI를 적용하면, AI가 과대평가된 면이 있다는 걸 직접 느끼고 좀 더 신중한 낙관론자가 됨, 반면 원래 자기 전문 분야에서 AI를 가장 잘 쓰는 사람들은 긍정적이지만 대부분 담담하게, 제한적인 환경에선 잘 작동한다는 식임

    • 아직 이 기술을 극대화해서 쓸 수 있는 ‘저달린 열매’가 많음을 잊기 쉬움, 사람들은 지금도 아주 기초적인 통합을 시도하고 있음, 이른 단계인데도 LLM으로 굉장히 멋진 것들을 할 수 있음, 예를 들면 Cursor로 오래된 코드베이스를 현대화하고, 오랫동안 원했던 새 기능 만들기도 함, 내 시간은 몇 시간 들였는데 예전 방식이라면 1~2주 걸렸을 일임, 그만큼 가능성이 큼, 다만 과대광고는 실제로 나와는 거리가 좀 있어 내 인식이 다를 수도 있음

    • 이 시스템엔 에러 바, 신뢰 구간이 존재하지 않음, 결국 뭔가 언뜻 그럴싸하게 보이는 결과를 뽑아내는 하나의 ‘특기’만 있는 말장난꾼임, 물론 적합한 활용 영역도 많지만, 여전히 크기조차 예측 불가하고 고칠 수 없는 구멍들이 많아 그 효율에 한계가 있음

    • 스마트폰과 비교한 점이 흥미로움, 스마트폰도 확실히 세상을 바꿨고, hype(과대광고)가 많았지만 결국엔 실질적 변화였음, LLM과 AI도 진짜 변화를 만들어낼 거라 보는지 궁금함

  • 이 투자금 회수 계획이 뭔지 의문임, 미국의 모든 대기업이 연간 10만 달러를 구독료로 내고, 모든 가정이 월 20달러씩 낸다 쳐도, 추론 비용과 기타 부대비용을 고려하면 투자금 회수에 턱없이 부족해 보임, 새로운 의료 분야 발견이라도 있어야 하는 건지, 예를 들면 OpenAI의 gpt-bio와 iPSC 소식은 정말 대단했음, 다만 상용화까지는 매우 긴 시간이 남음, 실제로 어떤 계획이 있는지 궁금함

    • 원래 AGI가 목표였던 것으로 기억함, 지금의 AI 서비스에서 ROI를 노린 게 아님, AGI가 나오면 독점하게 되니 모두가 복권 사듯 투자금을 쏟아부은 구조였음, 다만 지난 1년 동안 기하급수적인 발전이 없어서 AGI 꿈이 다소 주춤한 분위기임

    • 게임 플랜은 처음부터 인간 노동력 타겟이었음, 어떤 직업은 이미 AI로 완전히 대체되고, 나머진 생산성 크게 높여줌, 그 경제적 가치가 엄청남, AGI가 아닌 지금도 AI 기반 자동화가 ‘가장 싸고 교체하기 쉬운’ 노동부터 심각하게 대체 중임, 예전엔 인도 콜센터로 아웃소싱하던 작업들이 점점 데이터센터로 넘어가는 중, 주요 AI 기업들은 R&D와 컴퓨트 투자만 계속 되면 결국 AGI까지 갈 수 있다고 믿고 있음

    • AI가 당신을 해고하지 않으면 AI는 스스로 비용을 감당할 수 없음
      If AI Doesn’t Fire You, It Can’t Pay For Itself

    • 만약 LLM이 화이트칼라 전체의 효율을 2배로 끌어올릴 정도라면, 대기업들은 연간 10만 달러가 아니라 훨씬 더 큰 돈을 지불할 수밖에 없음, 만약 일자리 반을 대체해서 절감한 비용의 25%만 내도, 현재의 기업 가치가 매우 싸 보일 정도로 매출을 낼 수 있을 것임

    • 연 10만 달러는 사실상 아무것도 아님, 대략 직원 1인당 10천 달러, 연봉과 복리후생 다 합쳐 10만 달러로 잡아도 인력 생산성이 10%만 증가해도 큰 효과임, 1만 명 회사면 연 1억 달러 규모임

  • 3440억 달러가 얼마나 큰지 감이 안 오지만, 미국 주식시장의 총 시가총액이 62조 8천억 달러임, Shiller의 CAPE 비율(현재 가격/10년간 평균 이익)은 대략 38배임, 즉 10년간 연평균 이익은 1조 7천억 달러 정도임, 따라서 3440억이라는 돈은 미국 증시의 연평균 이익의 약 1/5 수준임, 이 정도면 좀 더 쉽게 가늠할 수 있는 수치임

    • 요즘 포트폴리오 직접 관리하며 기대수익률(GDP+배당)을 리스크로 조절해 국가/지역별 예상 수익 따짐, 1년에 두어 번 조정함, 만약 이게 거의 다 거품이라고 가정한다면, 미국 증시의 이익을 어떻게 조정해야 할지 궁금함, 특히 AI 중심 종목 추적 투자 때 적용해보고 싶음

    • 다만 3440억 달러는 연간이 아니라 누적 수치임

  • 지금 있는 것은 사용자가 업무나 개인 용도로 아주 복잡한 시스템에 마찰 없이 접근할 수 있게 해주는 훌륭한 인터페이스임, 하지만 이게 본질 그 자체는 아님, 아직은 얇은 겉껍질에 불과함, 이 혁명이 결국 수조 달러 가치가 있을지 의문이지만, 다행히 이건 내 고민거리가 아니라 마음 편함

  • 이 ‘기사’는 클릭을 유도하는 낚시임, 자극적인 제목만 있고, 실체가 거의 없음, ‘일부 사례에선 유용한데 왜 대기업들이 이렇게 투자하는가, 순수 R&D가 나을 수 있는데’라는 식의 무의미한 질문만 던짐

  • 영화가 처음 나왔을 때 사람들이 기차에 치일까 봐 걱정했던 것처럼, 지금도 기계가 사고한다고 믿는 쪽에 서 있음

  • 지금 시장엔 거품이 확실히 존재함, 최근 들어 AI 활용 스타트업 수가 폭발적으로 늘며, 동일한 제품군에서 차별화하려고 하다 보니, 기술적 디테일이 다 마케팅 문구로 둔갑함, 경영진 입장에선 열 개 스타트업이 “우리 데이터로 트레이닝하면 최고 챗봇 완성”이라 약속해도, 실제 트레이닝인지, 프롬프트만 트윅하는 건지 분간하기 어려움, 이런 일이 예전에도 있었고 가장 대표적인 게 ‘딥 리서치’ 등임, 이런 마케팅은 성장엔 도움이 되나 신뢰를 해침, 실제로 ‘경험 기반 러닝’이라며 프롬프트에 메모리만 얹어 성능 높인 스타트업이 최근 시리즈 A를 유치함(직접 찾아볼 수 있음), 그렇다고 혁신적 아이디어가 안 되고 있다는 건 아님, 개인적으론 프리트레이닝이 도입 목적을 충분히 달성했다고 봄, 이전엔 목적 자체가 불명확했으나 RL이 뜨면서 막연히 알게 됨, 프리트레이닝과 테스트 환경에서의 컴퓨팅이 범용 priors(사전 지식)를 쌓게 하는 핵심임, 즉 인간처럼 다양한 문제를 해결할 수 있음, 때때로, 잘 안 되면 RLVR로 추가 학습이 필요하고 아직 초기 단계지만, 이방향으로 또 한 번의 스케일링 곡선이 나올 거란 낙관임

  • 기업들이 반드시 AI에 투자해야 함, 돈이 많든 적든, LLM 때문에 기존 사업모델이 위협받고 있기 때문에 선제적으로 나서야만 함, 만약 앞서지 못한다면 전체 미국 경제가 흔들릴 위험도 있음, 미국 빅테크가 글로벌 광고 수익(메타, 구글)을 잃을 경우 한순간에 껍데기로 전락할 수 있음, 왜냐하면 각국 혹은 경제블록이 자체 제품을 만들고 도입하면 미국 제품 대체가 너무 쉬움, 미국 경제는 사실상 FAANG의 현금흐름에 너무 의존해왔고, 이 돈이 다른 산업까지 움직이는 동력이었음, 그래서 트럼프와의 저녁식사 자리가 있었던 것도 이해됨, 만약 이 AI 구도가 약해지면 미국은 경제적으로도 매우 불안한 미래를 맞게 됨

  • Oracle이 시장에서 엄청난 움직임을 보이는 이유는 OpenAI가 워크로드를 자사 클라우드로 대규모 이전하기로 약속했다는 내용 덕임, 실제로는 이익보단 매출을 우선하는 재무적 ‘엔지니어링’ 전략임, 특히 자본 지출(CapEx)을 최대한 미래로 미루는 방식임, 요컨대 지금의 AI 거품이 얼마나 과도한지 보여주는 사례임, 최근 Economist 분석 기사에 따르면, 시장은 더 이상 ‘리스크’가 아닌 ‘손실에 대한 두려움’ 혹은 ‘놓칠까 두려움(FOMO)’으로 움직이고 있고 지금은 FOMO가 완전 극에 달한 상태임
    Want better returns? Forget risk, focus on fear (Economist)

    • 이번 Oracle의 폭등과 매출 전망은 완전히 ‘jumping the shark’ 느낌임, Oracle이란 회사의 특성상 내가 베팅을 거는 건 신중한데, 오히려 이번엔 숏 포지션(하락 베팅)을 해보고 싶을 정도로 유혹적임

    • FOMO(놓칠까 두려움)가 정말 심각한 상황임, 지금의 증시는 과거 크립토 버블처럼 움직임

답변달기