GN⁺: 생성형 AI 사기(Con)
(wheresyoured.at)- ChatGPT가 출시된 지 2년이 넘었으며, 대규모 언어 모델(LLM)은 혁신적인 개념에서 21세기의 가장 큰 사기 중 하나로 발전했음
- OpenAI의 CEO인 Sam Altman은 노동을 착취하거나 대체하려는 경제에 LLM을 판매하기 위해 이 거품을 부풀렸음
- LLM은 코딩이나 검색 등에서 사용 사례가 있지만, 일부 사람들이 LLM 기반 소프트웨어를 사용한다고 해서 생성형 AI가 지속 가능하거나 수조 달러 규모의 진정한 산업이라는 증거는 아님
- 이런 대화를 하는 것이 너무 지루해서 이제 다시 말할 필요가 없도록 몇 가지 반박을 적어 보겠음
- "Ed"는 필자인 Edward Zitron 자신을 지칭하는 것
“Ed, 인공지능의 종류는 여러 가지야”
- “나도 이미 알고 있음” 나는 지금 “Generative AI”에 대해 말하고 있음
“Ed, ChatGPT가 3억 명의 사용자를 보유하고 있어. 이게 산업이 충분히 증명되었다는 뜻 아님?”
- “사용자가 많다고 실제 시장의 지속 가능성이 보장되는 건 아님” 온갖 매체 보도로 ChatGPT가 과도하게 부각되었고, 실제 통계와 충돌하는 의문점들이 있음
- “300만이든 3억이든 그 수치만으로는 아무것도 증명하지 못함” 3억 사용자는 가장 많이 회자되는 제품이 무료로 열려 있을 때 일어날 수 있는 일일 뿐임
- “월간 사용자 대비 유료 전환율 등 구체 지표를 보면 오히려 사업성이 낮을 가능성이 큼” 그러므로 단순 사용자 수를 절대적으로 신뢰하기 어려움
“Ed, ChatGPT는 아직 초창기임. 기다리면 더 나아지지 않겠음?”
- “이미 2년 이상이나 대규모 투자와 관심이 쏟아졌음” Transformer 기반 연구도 2017년부터 시작되었고, 이미 수십억 달러를 쏟아부었음
- “그럼에도 이렇다 할 ‘킬러 앱’이 없는 상태임” Cloud Computing이나 스마트폰처럼 즉각적이고 폭넓은 활용 사례가 아직 없음
- “지금껏 이런 수준으로 대중의 주목을 받은 스타트업이 거의 없었음에도 불구하고, 뚜렷한 결과물이 부족함” 2년 넘게 투자와 홍보가 집중되었지만 모두가 꼭 써야 할 제품은 아직 안 보임
“Ed, ChatGPT가 생성 AI의 아이폰 모멘트임. 역사상 가장 큰 소프트웨어 런칭이 아닐까?”
- “아이폰은 휴대폰과 컴퓨터의 개념을 뒤바꿨지만, ChatGPT는 그렇지 않음” 아이폰이 만들어낸 광범위한 새로운 산업과는 다르게, 생성 AI로 인해 생긴 필수적 서비스는 보이지 않음
- “만약 내일 ChatGPT가 사라진다면 일상에 큰 타격이 있을까?” 글쓴이는 ‘대다수 사람’에게 미치는 영향이 미미하다고 봄
- “Microsoft의 ‘AI 매출’도 실제 이윤이 아닌, 포괄적이고 모호한 합산임” 거대 IT 기업들이 AI를 내세우지만, 정작 뚜렷한 수익이나 산업 전반의 혁신으로 이어지지 못하고 있음
“Ed, 결국 언젠간 이 문제 해결될 거 아님?”
- “언제 해결되는지 묻고 싶음” OpenAI나 Anthropic 모두 연간 수십억 달러를 소모하면서도 명확한 수익 창출 모델이 없음
- “이들의 주장(‘비용이 곧 내려갈 것이다’ ‘몇 년 후엔 흑자 전환이다’)은 기업 내부 예상치에 불과함” 실질적으로 해소 방안이 구체적이지 않음
- “Anthropic이나 OpenAI가 계속 이렇게 돈을 태우면서 미래를 담보 잡히는 구조가 계속 가능할지 의문임”
“Ed, 우린 도대체 뭘 하고 있는 거지?”
- “OpenAI와 Anthropic이 동시에 엄청난 적자를 기록하면서도, 2027년쯤이면 흑자를 볼 거라고 말함” 하지만 구체 근거가 빈약함
- “Dario Amodei(Anthropic)는 2027년에 모든 것이 가능해진다고 주장하지만, 그 구체적 경로가 불투명함” 이는 과도한 낙관에 불과하다고 봄
- “기업들의 자료에 따르면, API 매출 같은 부문이 핵심이라는 데 이것만으로 수십억 달러를 메꿀 수 있을지 회의적임”
- 요컨대 “Generative AI 산업이 진정으로 지속 가능하고 의미 있는가”라는 근본적 의문을 던짐
“Ed, 이 멍청이들이 실제로 하고 있는 일은 뭐야?”
- “모두가 ‘Reasoning’ 모델, ‘Chain-of-thought’ 같은 고급 기능에 매달리지만, 혁신적 변화로 이어지는지는 의문임” DeepSeek 같은 오픈소스 모델도 등장해 경쟁은 더 치열해짐
- “OpenAI의 새 기능 ‘Deep Research’는 웹에서 자료를 찾아와 보고서를 만들어주지만, 출처 신뢰도가 낮고 반복적 인용을 하는 등 실사용 가치가 떨어짐”
- “이런 생성 AI 제품은 전반적으로 무겁고 비싸며, 단순하게 길고 번지르르한 ‘결과물’을 만들어낼 뿐임” 실제로 ‘연구’로 보긴 어려움
“Ed, 미쳐버릴 것 같은 기분임”
- “수많은 매체와 투자자가 생성 AI가 곧 모든 것을 뒤바꿀 것처럼 말하지만, 정작 제품 수준은 얕고 수익도 미비함”
- “기업 CEO들은 AI가 일자리를 대체할 것이라고 겁을 주지만, 실질적 증거는 미약함” 그저 주가 부양을 위한 과장으로 보임
- “이 거품이 터지면 닷컴 버블 이상의 충격이 있을 것이라고 봄” 대규모 투자와 환경·인프라 자원 낭비, 사람들의 일자리 불안 같은 부작용만 커지고 있다는 주장임
- “정말 이게 미래인지, 아니면 거대한 사기극인지 의문임”
- 실질적이고 유의미한 “킬러 앱”이 아직 보이지 않고, 기업들 역시 엄청난 비용을 감당하며 적자를 내는 상황
- 언론 보도 및 기업 홍보에 비해 실제 체감되는 가치가 크지 않으며, 장기적인 지속 가능성에도 의문이 제기됨
- 전반적으로 글쓴이는 현 시점의 생성 AI 시장을 ‘Con(사기)’에 가깝다고 평가함
직접 써보면 사실 일종의 점쟁이같은 느낌이 들 때가 있긴해요.
어쩌다 결과물이 잘 나온 사람은 놀라서 여기저기 홍보하고, 다수의 불만족스럽거나 아예 틀린 답을 받은 사람은 뭐 아직 그정도긴 하지 하면서 넘어가고...
저의 경우라면 모르는걸 검색하고 배우는 방법을 완전히 뒤집어놨고, 코딩을 하는것 뿐만아니라 프로젝트의 기술적 방향을 설정하는 방법 자체에서 6개월 전과는 전혀 다른 속도와 방식으로 근무하고 있습니다. 생산성 향상은 말할것도 없고요.
불과 1년전까지만 해도 주변에서 AI제작 코드를 신봉하는 사람을 보면 머릿속에 물음표 한 200개쯤 띄웠던 저로서도 최근의 변화는 정말 충격적입니다.
반대로 말하면 AI에 비하면 스마트폰이야말로 그냥 전화기에 웹브라우저 붙인거지, 별거있나요?
뜬소문(hype)과 FOMO에 지친 것 같은 감정과 반응은 논외로 하더라도 신기술을 대하는 방법에 대한 시사점은 충분히 있다고 생각합니다
- AI 구별하기: 알고리즘/로직, 기계학습, 자연어 분석, 텍스트/이미지/영상/음성 생성
- AI 산업군의 지속 가능성
- AI 사용자 입장의 비용 효율성과 기대 효용
세탁 자동화 기술이 도입됐던 1980~1990년대의 시대상을 기록한 기사가 생각나서 추가로 인용합니다
온갖 전자동으로 가득한 스마트폰에도 컴퓨터라는 수식을 붙이지 않는 요즘이라면, 그냥 전자동 세탁기라고 불렀을 것입니다. 그러나 그때 세탁의 자동화에 대해서는 컴퓨터 말고는 실감나게 표현할 단어가 없었던 셈입니다. 세탁소 주인들도, 소비자들도, 그리고 광고에서도 그렇게 공유했습니다.
이런 현상에 대해 1991년 11월 27일 한겨레신문 '컴퓨터 만능 환자들'이라는 제목의 칼럼에서는 "우리나라에 컴퓨터 바람이 불면서 심지어는 세탁소에도 컴퓨터 세탁이라고 써 붙여야 장사가 되는 세상이 됐다"고 얘기하기도 했습니다.
Hacker News 의견
-
만약 내 Android나 iPhone이 사라진다면, 나는 마치 한 세기 전으로 시간 여행을 한 것 같은 느낌을 받을 것임. Google 검색이 없어진다면, 나는 더 이상 일을 할 수 없을 것임. 클라우드가 사라진다면, 앱을 더 이상 만들 수 없을 것임. 도서관에 가는 것 외에는 해결책이 없음
- ChatGPT나 Copilot 같은 파생물이 사라진다면, 약간 불편할 것임. 문서를 읽고 코드를 조금 더 느리게 작성하며 계속할 것임. 사실, 이미 여러 번 그렇게 했음 (Copilot with GPT-3.5, Cursor, Copilot with GPT-4, Zed with Claude 등)
- 실리콘밸리에 오래 있었다면, 여러 번의 과대광고 주기를 보았을 것임. AI는 최신 주기임. AI가 사기라는 뜻은 아니지만, 판매를 위해 과장하고 과도한 주장을 하는 경향이 있음
- AI는 주로 텍스트와 코드를 작성하는 데 사용됨. 실제로 시장 전반에 걸쳐 워크플로우에 통합하는 데는 시간이 걸릴 것임
- 과도하게 비관적이거나 낙관적이지 않은 훌륭한 기사는 Benedict Evans의 The AI Summer임. 대기업들이 많은 흥분을 하고 있지만 실제 채택은 아직 낮다고 주장함
- "LLM 자체는 제품이 아님 - 도구나 기능을 가능하게 하는 기술이며, 새로운 프레임, UX 및 도구로 분리되거나 재구성되어야 유용해짐. 이는 더 많은 시간이 걸림"
-
개발자들 사이에서 LLM에 대한 부정적인 반응이 많다는 것에 약간 충격을 받음. 새로운 도구로서 학습이 필요하고 때로는 그다지 좋지 않지만, 실제 코딩 지원이 내장된 IDE를 사용해 본 사람이라면 (예: VS Code의 Copilot 모드 - Chat 모드 아님, Claude 3.5 사용), 솔직히 초급 개발자보다 크게 나쁘지 않고 100배 빠름. 코드가 나쁘면 버리고 10초 후에 다시 시도할 수 있음. 매우 경험 많은 개발자로서 속도 향상이 엄청남. 6개월 전만 해도 끔찍했음. 1년이나 2년 후에는 얼마나 좋아질지 궁금함. 아직 유닛 테스트 실행이나 콘솔 오류 읽기, IDE 힌트에 접근할 수 없지만, 여전히 대부분 올바른 코드를 생성함. 더 깊이 통합되면 점점 더 개선될 것임
-
과대광고와 일화들을 제쳐두면, 생성 AI는 몇 달 동안 같은 자리에 머물러 있었음. 그들이 할 수 있었던 "큰 일"은 "추론"을 사용하여 대형 언어 모델이 "생각"하게 만드는 것임
- 지난 18개월 동안 생성 AI 분야에서 가장 흥미로운 변화가 누락됨
- 멀티모달: LLM은 이제 이미지, 오디오 및 (일정 부분) 비디오를 소비할 수 있음. 이는 2023년의 텍스트 전용 모델에 비해 큰 개선이며, 이 기술에 대한 많은 새로운 응용 프로그램을 열어줌. 나는 매일 이미지와 오디오 모델 (ChatGPT Advanced Voice)을 사용함
- 컨텍스트 길이. GPT-4는 8,000 토큰을 처리할 수 있었음. 오늘날의 선도적인 모델은 거의 모두 100,000+이며, 가장 큰 모델은 1백만 또는 2백만 토큰을 처리함. 이는 그들을 훨씬 더 유용하게 만듦
- 비용. 오늘날의 좋은 모델은 GPT-3 시대의 모델보다 100배 저렴하고 훨씬 더 능력이 뛰어남
-
방향성은 올바름
- GenAI는 내 생각에 어시스턴트임. Copilot은 효과적으로 템플릿을 만듦
- ChatGPT로 이메일을 읽고 톤을 확인할 수 있음
- Claude는 카메라 장비에 대해 코멘트를 할 수 있음
- Claude는 희귀한 것들에 대한 이미지 인식을 매우 잘함
- 내가 확신하게 된 것은 /completions API가 단순히 +10% 또는 저키 헬퍼에 불과하다는 것임
- 내 코드베이스에서 속도로 난리를 치는 인턴보다 덜 똑똑한 에이전트가 필요하지 않음, 이는 대략적으로 코드 생성 도구들이 하는 것임
- 자율 주행 자동차 스타트업이 운전 중 이미지를 인식하기 위해 GPT 신경망을 사용하는 것을 보았음. 그 사용 사례는 매우 유망하다고 평가할 것임
- Shirkys BS 직업 논문이 증명되고 있다고 감히 말할 수 있음, 왜냐하면 환각하는 AI가 그것을 할 수 있다면...
- 어쨌든
- 기본적인 것들이 지출을 정당화한다고 생각하지 않음. 너무 많은 독설이 있지만, 과대광고도 너무 많음
-
이것은 내가 읽은 가장 기울어진 글 중 하나임. 몇 달 동안 Ed는 AI 버블이 "언제든지" 터질 것이라고 예측하며 AI 회사의 수익을 제품이 실행 가능하지 않다는 징후로 자주 인용함. 평가가 주로 R&D 진행 상황에 기반을 두고 있으며, 기존 제품의 광범위한 채택이 증가할 것이라는 이론에 기반을 두고 있지 않음. 현재의 상황은 개인 행위자들 간의 R&D 경쟁으로 봐야 한다고 생각함
-
생성 AI가 실제로 한 일이 무엇인지, 제품은 어디에 있는지에 대한 질문
- 제품은 사실 ChatGPT임
- LLM이 버블이라면, OpenAI의 수익 대부분이 API에서 나올 것으로 예상해야 함 (이는 "마법의 AI 작업"을 하기 위해 자금을 모은 스타트업들이 사용하는 것이며, 투자자들이 돈을 주는 것을 멈추면 버블이 터질 것임). 그러나 https://futuresearch.ai/openai-revenue-report 에 따르면, API에서의 수익은 15%에 불과하며, 나머지 85%는 다양한 구독 제공, 특히 ChatGTP Plus 구독이 55%를 차지함 - 즉, _직접 소비자들_임
- 이것이 버블이 아니라는 것을 증명하지는 않지만 (소비자들이 그것이 쓸모없다는 것을 깨닫고 나중에 떠날 수 있음), 가능성을 줄임
-
Ed는 때때로 좋은 점을 지적하지만, 그는 대형 기술 기업에 매우 화가 나 있으며, 그의 분노가 종종 메시지를 방해함
- 그의 최신 발언을 읽으면 Google의 IPO 당시 Karl Denninger가 Google을 비난하며 $85 주가를 정당화할 만큼의 돈을 절대 벌지 못할 것이라고 주장했던 것이 떠오름 (그때 $1000 투자하면 오늘날 약 $375,000 가치가 있음)
-
우리의 문제의 큰 부분은 "제품"이 좋다고 모두를 세뇌시킬 때까지 돈을 잃는 비즈니스 모델을 가진 "회사"를 만드는 것이 가능하다는 사실에서 비롯됨. 정상적인 세상에서는 이러한 회사들이 실패하고 AI는 수년 또는 수십 년에 걸쳐 작은 실패와 작은 성공을 통해 계속 발전할 것임. 대신 소수의 부유한 사람들이 도박을 할 의향이 있기 때문에 터무니없는 것들이 쏟아져 나옴
-
그리고 여전히 킬러 앱이 없음! 모두가 사랑하는 제품이 없고, iPhone 순간도 없음
- 나는 코딩 어시스턴트가 AI의 첫 번째 킬러 앱이라고 강력히 주장할 것임. Copilot, Cursor, Windsurf 등
일부 내용은 공감하고 일부 저도 과장된 부분이 있다고는 생각하나, 글이 너무 폭력적인 느낌이네요. 답을 정해두고 전개하고 있다는 느낌이랄까요.
Ed는 때때로 좋은 점을 지적하지만, 그는 대형 기술 기업에 매우 화가 나 있으며, 그의 분노가 종종 메시지를 방해함
아래 해커 뉴스 댓글에 이 문장을 염두에 두고 보세요. ㅎㅎ
요즘의 개발도구들을 보면 개발자 입장에서는 이미 충분히 킬러앱이 나왔다고 생각이 드는데, 비개발자 입장에서는 뭐 그렇게 느낄수도 있다고 생각이 드네요.
해가 떠오르고 있어서 박명이 드리운 참에 이게 등불보다 나은게 뭐냐고 하는 글이라니 안타깝습니다.
글쓴이에게 한가지 동의하는 점이 있다면, 저는 OpenAI의 승리에도, Anthropic의 승리에도, xAI의 승리에도, 구글이나 MS의 승리에도 베팅하지 않겠습니다. 어떤 기업이 돈을 벌지 벌지 않을지는 대단히 불확실한 일입니다.
하지만 앞으로 몇 년 사이에 모든 지적 노동의 생산성이 급격히 증대되는 것은 막을 수 없을 것이 분명합니다. 그게 로컬 장비에서 돌아갈지 원격의 서버에서 돌아갈지, 무료로 동작할지 유료로 동작할지는 모르겠지만요. 그러나, 설령 지금의 AI기업이 모두 수익창출에 실패하고 패배자가 되더라도, 그들의 투자한 자금으로 세상이 바뀐 것은 사라지지 않겠지요. 그들이 2027년에 흑자를 보든 도산을 하든, 세상은 바뀝니다.
매우 공감하는 댓글입니다. 저는 Cursor 없이는 개발 못하는 몸이 되어버렸어요.
하지만 여전히 AI의 비용 효율 문제가 크다고 봐서, 저도 어떤 기업의 승리에도 베팅하지 않고 있습니다.