# 이제 샘 알트먼의 말을 그대로 믿지 말아야 할 시점입니다

> Clean Markdown view of GeekNews topic #17096. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=17096](https://news.hada.io/topic?id=17096)
- GeekNews Markdown: [https://news.hada.io/topic/17096.md](https://news.hada.io/topic/17096.md)
- Type: GN+
- Author: [neo](https://news.hada.io/@neo)
- Published: 2024-10-06T09:41:32+09:00
- Updated: 2024-10-06T09:41:32+09:00
- Original source: [theatlantic.com](https://www.theatlantic.com/technology/archive/2024/10/sam-altman-mythmaking/680152/)
- Points: 20
- Comments: 3

## Summary

OpenAI의 최근 자금 조달과 회사 가치 상승은 주목할 만하지만, 샘 알트먼의 AI 혁명에 대한 과장된 주장은 실리콘 밸리의 신화 만들기에 불과할 수 있습니다. 현재 AI 기술은 여전히 한계가 많고, 책임 있는 규제와 윤리적 고려가 필요하다는 점에서 기술 낙관주의자들의 장밋빛 전망을 경계해야 합니다. AI 기술의 발전은 인상적이지만, 그 잠재력과 현실 사이의 괴리를 인식하고, 기술의 결과와 영향을 면밀히 평가하는 것이 중요합니다.

## Topic Body

- OpenAI는 이번 주 66억 달러의 신규 자금을 조달했으며 회사 전체 가치는 1,570억 달러에 달함  
- 이는 연간 70억 달러 이상의 현금을 소비하는 조직으로서는 대단한 성과임  
- OpenAI의 주요 제품은 기술이 아니라 이야기임  
  
### Sam Altman CEO이 게시한 온라인 선언문 "[The Intelligence Age](https://news.hada.io/topic?id=16909)"  
- AI 혁명이 무한한 번영을 가져오고 인간의 삶을 획기적으로 개선할 것이라고 선언함  
- AI가 기후 문제를 해결하고, 우주 식민지 설립을 돕고, 모든 물리학을 발견할 것으로 기대함   
- 몇 천 일 안에 전능한 초지능을 갖게 될 수 있다고 예측함  
- 이를 위해서는 충분한 에너지, 데이터, 칩을 제공하기만 하면 된다고 함  
  
### 실리콘 밸리의 신화 만들기  
- 언젠가는 AI에 대한 알트만의 아이디어가 증명될 수도 있지만, 현재로서는 그의 접근 방식은 교과서적인 실리콘 밸리의 신화 만들기임   
- 인류는 항상 사회를 더 나은 방향으로 변화시킬 기술적 돌파구 직전에 있음   
- 어려운 기술적 문제는 기본적으로 해결되었으며, 나머지는 시장 경쟁과 기업가 정신을 통해 해결될 것임  
- "지금 수십억 달러를 쓰면 나중에 수조 달러를 벌 수 있음"   
  - 이는 1990년대 닷컴 붐, 2000년대 나노기술, 2010년대 암호화폐와 로봇 공학의 이야기였음  
- 이러한 기술들은 약속한 대로 작동하지 않았지만, 기업가, 엔지니어, 투자자들은 제국을 건설하는 동안 규제 당국과 일반 대중을 제쳐두었음  
  
### 현재 OpenAI 제품의 한계  
- ChatGPT와 DALL-E는 2022년에는 최첨단 기술이었지만 지금은 평범하고 버그가 많은 현재의 기술처럼 느껴짐  
- GPT-4는 이제 전능한 초지능의 전조가 아니라 그냥 또 다른 챗봇처럼 보임  
- LLM으로 이메일이나 이야기를 작성할 수 있지만 특별히 독창적이지는 않음  
- 도구는 여전히 환각(거짓 정보를 자신있게 주장함)을 일으키고 당혹스럽고 예기치 않은 방식으로 실패함  
  
### "AI 슬롭" 웹 콘텐츠의 확산  
- LLM으로 생성된 쓰레기가 거의 무료로 생산되고 제작자에게 광고 수익을 발생시킴  
- 모두가 예상했고 아무도 행복하지 않은 바닥을 향한 경쟁이 일어나고 있음  
- 한편 부풀려진 기술 회사 가치를 정당화할 만한 규모의 제품-시장 적합성을 찾는 노력은 계속 부족함  
- Altman조차도 OpenAI의 최신 제품 o1이 처음 사용할 때는 인상적이지만 더 많은 시간을 보내면 그렇지 않다고 인정함  
  
### Altman의 주장에 대한 회의론  
- 많은 컴퓨터 과학자들은 우리와 AGI 사이에 여러 중요한 과학적 돌파구가 있다고 주장함  
- Altman은 자신의 회사가 모든 것을 잘 처리하고 있으며 공상 과학 소설이 곧 현실이 될 것이라고 자신감을 내비침  
- 최종 비전을 실현하기 위해서는 7조 달러 정도가 필요할 수 있지만, 그가 약속하는 모든 진보에 비하면 그것은 아무것도 아님  
- Altman은 물리학자가 아니라 연쇄 기업가이며 실리콘밸리에서 가장 존경받는 인재 스카우터 중 한 명임  
- 그의 획기적인 성공은 주로 초기 스타트업을 투자자 현금과 연결하는 것과 관련이 있지 특정 기술 혁신과는 관련이 없음  
  
### 기술 낙관주의자들의 수사학  
- 알트먼의 주장이 동료 억만장자 테크노 낙관주의자들의 주장과 얼마나 유사한지 놀라울 정도임  
- 기술 진보를 믿고 발명가와 투자자를 귀찮은 규제로부터 자유롭게 하면 시장이 마법을 발휘하고 모두가 더 나아질 것이라고 주장함  
- Altman은 AI에 책임 있는 규제가 필요하다고 주장하지만, 회사의 규제 대응은 "아니오, 그렇게 하면 안 됩니다"인 것 같음  
- 지금은 규제 명확성을 달라고 요구하지만 실제로는 당장 규제를 원하지 않음  
  
### 현재 AI 기술의 문제점에 주목해야 함  
- AI가 어린이를 괴롭히고 착취하는 데 사용되는 방식에 초점을 맞추기보다 AI가 삶을 더 편하게 만드는 방법을 상상하는 것이 더 즐거움   
- 기후 변화로 인한 문제를 해결하는 자비로운 미래 AI를 상상하는 것이 오늘날 실제로 존재하는 AI의 막대한 에너지와 물 소비에 대해 생각하는 것보다 훨씬 더 즐거움  
- 이러한 기술들은 이미 실적이 있음. 세계는 그것들의 잠재력뿐만 아니라 결과와 영향을 기반으로 그것들과 그것들을 만드는 사람들을 평가할 수 있고 그래야 함  
  
### GN⁺의 의견  
- AI 기술의 발전은 인상적이지만, 그 잠재력에 대한 과장된 주장과 현실 사이에는 큰 괴리가 있음  
- 기술 혁신만으로는 사회 문제를 해결할 수 없으며, 책임감 있는 규제와 윤리적 고려가 필요함  
- 기술 낙관주의자들은 미래에 대한 장밋빛 전망을 제시하지만, 현재의 문제점을 간과해서는 안 됨  
- 사회는 기술의 결과와 영향을 면밀히 평가하고, 기술 기업들에 대해 비판적 시각을 가져야 함  
- AI 기술을 사회에 도입할 때는 그 장단점을 신중히 고려하고, 투명성과 책임성을 확보하는 것이 중요함  
- Anthropic의 Claude나 DeepMind의 Chinchilla 등 OpenAI의 경쟁 제품들도 LLM 기술의 한계를 보여줌

## Comments



### Comment 29801

- Author: jabkim
- Created: 2024-10-07T16:29:25+09:00
- Points: 2

손가락만 보고 있는 사람들 vs 무엇을 향하는지 알고 행동하는 사람들

### Comment 29751

- Author: ndrgrd
- Created: 2024-10-07T02:49:16+09:00
- Points: 2

AGI가 다가온다, 이미 거의 만들었다 등등 큰소리 치는 것 치고는 정작 AI 관련 제품이라고 할 만한게 챗봇 뿐...  
애초에 GPT를 "인공지능"이라고 해도 되는지도 모르겠고..

### Comment 29736

- Author: neo
- Created: 2024-10-06T09:41:34+09:00
- Points: 2

###### [Hacker News 의견](https://news.ycombinator.com/item?id=41749371) 
- OpenAI의 최근 결정에 대한 요약: GPT-5에 대한 과대광고, 안전 팀 해체, 수익 추구로의 전환, Altman에게 주식 제공 준비 등의 변화가 있었음. 이러한 변화는 Altman이 단기적인 출구 전략을 준비 중임을 시사함.
  - AI는 이미 많은 변화를 가져왔으며, 앞으로도 계속 변화를 일으킬 것임.
  - Altman은 AI의 미래를 과대광고하고 있으며, 이는 일반적인 CEO의 행동임.
  - LLMs의 진정한 이야기는 마법 같은 기술이 자동차 부품을 무료로 인쇄할 수 있을 때 드러남.
  - 기술의 발전은 자본 집약적이며 다양한 인재가 필요함. 기술 리더는 다수에게 책임을 져야 함.

- Sam Altman에 대한 비판: 기술이 정체되었다는 인식, Altman이 물리학자가 아닌 거래 전문가라는 점, AI의 부정적인 면과 에너지 소비 문제 등이 있음.
  - Atlantic의 기사는 맥락과 뉘앙스를 포함하지 않음.

- CEO의 역할은 AI의 미래를 상상하게 하는 것임. GPT-5가 실체가 없을 경우 OpenAI의 가치는 어떻게 될 것인지에 대한 의문이 제기됨.

- 기술 발전은 자본 집약적이며 다양한 인재가 필요함. 기술 리더는 다수에게 책임을 져야 함.

- Altman은 물리학자가 아닌 연쇄 창업가로, OpenAI를 제외하면 그의 재능이 명확하지 않음.

- AI에 대한 모든 것을 무시할 수 있는 필터가 있었으면 좋겠다는 의견이 있음. AI는 세상을 덜 신뢰할 수 있는 곳으로 만들고 있음.

- AI를 있는 그대로 이해하는 것은 지루할 수 있음. AI는 닷컴이나 암호화폐와는 다른 범주임.

- AI 분야는 연구 지향적임. Google은 Noam Shazeer를 다시 영입하기 위해 24억 달러 이상을 지불했으며, Microsoft와 Facebook도 뒤처지지 않음. OpenAI는 연구자를 잃고 있으며, 1-2년 내에 Microsoft의 자회사가 될 가능성이 있음.