▲

GN⁺: 이제 샘 알트먼의 말을 그대로 믿지 말아야 할 시점입니다

 (theatlantic.com)
20P by neo 2달전 | favorite | 댓글 3개
  • OpenAI는 이번 주 66억 달러의 신규 자금을 조달했으며 회사 전체 가치는 1,570억 달러에 달함
  • 이는 연간 70억 달러 이상의 현금을 소비하는 조직으로서는 대단한 성과임
  • OpenAI의 주요 제품은 기술이 아니라 이야기임

Sam Altman CEO이 게시한 온라인 선언문 "The Intelligence Age"

  • AI 혁명이 무한한 번영을 가져오고 인간의 삶을 획기적으로 개선할 것이라고 선언함
  • AI가 기후 문제를 해결하고, 우주 식민지 설립을 돕고, 모든 물리학을 발견할 것으로 기대함
  • 몇 천 일 안에 전능한 초지능을 갖게 될 수 있다고 예측함
  • 이를 위해서는 충분한 에너지, 데이터, 칩을 제공하기만 하면 된다고 함

실리콘 밸리의 신화 만들기

  • 언젠가는 AI에 대한 알트만의 아이디어가 증명될 수도 있지만, 현재로서는 그의 접근 방식은 교과서적인 실리콘 밸리의 신화 만들기임
  • 인류는 항상 사회를 더 나은 방향으로 변화시킬 기술적 돌파구 직전에 있음
  • 어려운 기술적 문제는 기본적으로 해결되었으며, 나머지는 시장 경쟁과 기업가 정신을 통해 해결될 것임
  • "지금 수십억 달러를 쓰면 나중에 수조 달러를 벌 수 있음"
    • 이는 1990년대 닷컴 붐, 2000년대 나노기술, 2010년대 암호화폐와 로봇 공학의 이야기였음
  • 이러한 기술들은 약속한 대로 작동하지 않았지만, 기업가, 엔지니어, 투자자들은 제국을 건설하는 동안 규제 당국과 일반 대중을 제쳐두었음

현재 OpenAI 제품의 한계

  • ChatGPT와 DALL-E는 2022년에는 최첨단 기술이었지만 지금은 평범하고 버그가 많은 현재의 기술처럼 느껴짐
  • GPT-4는 이제 전능한 초지능의 전조가 아니라 그냥 또 다른 챗봇처럼 보임
  • LLM으로 이메일이나 이야기를 작성할 수 있지만 특별히 독창적이지는 않음
  • 도구는 여전히 환각(거짓 정보를 자신있게 주장함)을 일으키고 당혹스럽고 예기치 않은 방식으로 실패함

"AI 슬롭" 웹 콘텐츠의 확산

  • LLM으로 생성된 쓰레기가 거의 무료로 생산되고 제작자에게 광고 수익을 발생시킴
  • 모두가 예상했고 아무도 행복하지 않은 바닥을 향한 경쟁이 일어나고 있음
  • 한편 부풀려진 기술 회사 가치를 정당화할 만한 규모의 제품-시장 적합성을 찾는 노력은 계속 부족함
  • Altman조차도 OpenAI의 최신 제품 o1이 처음 사용할 때는 인상적이지만 더 많은 시간을 보내면 그렇지 않다고 인정함

Altman의 주장에 대한 회의론

  • 많은 컴퓨터 과학자들은 우리와 AGI 사이에 여러 중요한 과학적 돌파구가 있다고 주장함
  • Altman은 자신의 회사가 모든 것을 잘 처리하고 있으며 공상 과학 소설이 곧 현실이 될 것이라고 자신감을 내비침
  • 최종 비전을 실현하기 위해서는 7조 달러 정도가 필요할 수 있지만, 그가 약속하는 모든 진보에 비하면 그것은 아무것도 아님
  • Altman은 물리학자가 아니라 연쇄 기업가이며 실리콘밸리에서 가장 존경받는 인재 스카우터 중 한 명임
  • 그의 획기적인 성공은 주로 초기 스타트업을 투자자 현금과 연결하는 것과 관련이 있지 특정 기술 혁신과는 관련이 없음

기술 낙관주의자들의 수사학

  • 알트먼의 주장이 동료 억만장자 테크노 낙관주의자들의 주장과 얼마나 유사한지 놀라울 정도임
  • 기술 진보를 믿고 발명가와 투자자를 귀찮은 규제로부터 자유롭게 하면 시장이 마법을 발휘하고 모두가 더 나아질 것이라고 주장함
  • Altman은 AI에 책임 있는 규제가 필요하다고 주장하지만, 회사의 규제 대응은 "아니오, 그렇게 하면 안 됩니다"인 것 같음
  • 지금은 규제 명확성을 달라고 요구하지만 실제로는 당장 규제를 원하지 않음

현재 AI 기술의 문제점에 주목해야 함

  • AI가 어린이를 괴롭히고 착취하는 데 사용되는 방식에 초점을 맞추기보다 AI가 삶을 더 편하게 만드는 방법을 상상하는 것이 더 즐거움
  • 기후 변화로 인한 문제를 해결하는 자비로운 미래 AI를 상상하는 것이 오늘날 실제로 존재하는 AI의 막대한 에너지와 물 소비에 대해 생각하는 것보다 훨씬 더 즐거움
  • 이러한 기술들은 이미 실적이 있음. 세계는 그것들의 잠재력뿐만 아니라 결과와 영향을 기반으로 그것들과 그것들을 만드는 사람들을 평가할 수 있고 그래야 함

GN⁺의 의견

  • AI 기술의 발전은 인상적이지만, 그 잠재력에 대한 과장된 주장과 현실 사이에는 큰 괴리가 있음
  • 기술 혁신만으로는 사회 문제를 해결할 수 없으며, 책임감 있는 규제와 윤리적 고려가 필요함
  • 기술 낙관주의자들은 미래에 대한 장밋빛 전망을 제시하지만, 현재의 문제점을 간과해서는 안 됨
  • 사회는 기술의 결과와 영향을 면밀히 평가하고, 기술 기업들에 대해 비판적 시각을 가져야 함
  • AI 기술을 사회에 도입할 때는 그 장단점을 신중히 고려하고, 투명성과 책임성을 확보하는 것이 중요함
  • Anthropic의 Claude나 DeepMind의 Chinchilla 등 OpenAI의 경쟁 제품들도 LLM 기술의 한계를 보여줌
▲
jabkim 2달전  [-]

손가락만 보고 있는 사람들 vs 무엇을 향하는지 알고 행동하는 사람들

답변달기
▲
ndrgrd 2달전  [-]

AGI가 다가온다, 이미 거의 만들었다 등등 큰소리 치는 것 치고는 정작 AI 관련 제품이라고 할 만한게 챗봇 뿐...
애초에 GPT를 "인공지능"이라고 해도 되는지도 모르겠고..

답변달기
▲
neo 2달전  [-]
Hacker News 의견

  • OpenAI의 최근 결정에 대한 요약: GPT-5에 대한 과대광고, 안전 팀 해체, 수익 추구로의 전환, Altman에게 주식 제공 준비 등의 변화가 있었음. 이러한 변화는 Altman이 단기적인 출구 전략을 준비 중임을 시사함.

    • AI는 이미 많은 변화를 가져왔으며, 앞으로도 계속 변화를 일으킬 것임.
    • Altman은 AI의 미래를 과대광고하고 있으며, 이는 일반적인 CEO의 행동임.
    • LLMs의 진정한 이야기는 마법 같은 기술이 자동차 부품을 무료로 인쇄할 수 있을 때 드러남.
    • 기술의 발전은 자본 집약적이며 다양한 인재가 필요함. 기술 리더는 다수에게 책임을 져야 함.

  • Sam Altman에 대한 비판: 기술이 정체되었다는 인식, Altman이 물리학자가 아닌 거래 전문가라는 점, AI의 부정적인 면과 에너지 소비 문제 등이 있음.

    • Atlantic의 기사는 맥락과 뉘앙스를 포함하지 않음.

  • CEO의 역할은 AI의 미래를 상상하게 하는 것임. GPT-5가 실체가 없을 경우 OpenAI의 가치는 어떻게 될 것인지에 대한 의문이 제기됨.

  • 기술 발전은 자본 집약적이며 다양한 인재가 필요함. 기술 리더는 다수에게 책임을 져야 함.

  • Altman은 물리학자가 아닌 연쇄 창업가로, OpenAI를 제외하면 그의 재능이 명확하지 않음.

  • AI에 대한 모든 것을 무시할 수 있는 필터가 있었으면 좋겠다는 의견이 있음. AI는 세상을 덜 신뢰할 수 있는 곳으로 만들고 있음.

  • AI를 있는 그대로 이해하는 것은 지루할 수 있음. AI는 닷컴이나 암호화폐와는 다른 범주임.

  • AI 분야는 연구 지향적임. Google은 Noam Shazeer를 다시 영입하기 위해 24억 달러 이상을 지불했으며, Microsoft와 Facebook도 뒤처지지 않음. OpenAI는 연구자를 잃고 있으며, 1-2년 내에 Microsoft의 자회사가 될 가능성이 있음.

답변달기