GN⁺: 지능의 시대 (The Intelligence Age) - 샘 알트만
(ia.samaltman.com)AI가 가져올 엄청난 변화
- 향후 몇 십 년 동안 우리 조상들이 마법처럼 여겼을 일들을 할 수 있게 될 것임
- 이러한 현상은 새로운 것은 아니지만, AI로 인해 더욱 가속화될 것임
- 유전적 변화 때문이 아니라 사회 기반 시설 자체가 우리 개개인보다 훨씬 더 똑똑하고 유능해졌기 때문에 인간의 능력이 크게 향상되었음
- AI는 사람들에게 어려운 문제를 해결할 수 있는 도구를 제공하고, 우리 스스로는 알아낼 수 없었던 새로운 발전을 이룰 수 있게 도와줄 것임
AI가 가져다 줄 개인 맞춤형 솔루션
- 곧 AI의 도움으로 AI 없이는 결코 할 수 없었던 일들을 훨씬 더 많이 해낼 수 있게 될 것임
- 궁극적으로는 각자 상상할 수 있는 거의 모든 것을 만들어낼 수 있는 다양한 분야의 가상 전문가들로 구성된 개인 AI 팀을 갖출 수 있게 될 것임
- 우리 아이들은 어떤 과목이든, 어떤 언어로든, 필요한 속도에 맞춰 개인 맞춤형 교육을 제공하는 가상 튜터를 갖게 될 것임
- 더 나은 의료, 누구나 상상할 수 있는 모든 종류의 소프트웨어를 만드는 능력 등에 대해서도 비슷한 아이디어를 생각해 볼 수 있음
공유된 번영의 시대
- 이러한 새로운 능력으로 오늘날로서는 상상할 수 없을 정도로 공유된 번영을 누릴 수 있게 될 것임
- 미래에는 모든 사람의 삶이 지금 누구의 삶보다도 더 나아질 수 있음
- 번영이 반드시 사람들을 행복하게 만들지는 않지만, 전 세계 사람들의 삶을 의미 있게 개선시킬 것임
역사상 가장 중대한 사실
- 수천 년 동안 과학적 발견과 기술 진보가 축적된 끝에, 우리는 모래를 녹이고 불순물을 추가하며 놀라울 정도로 정밀하고 극도로 작은 규모로 컴퓨터 칩을 배열하고 에너지를 흘려보내는 방법을 알아냈고, 그 결과 점점 더 유능한 AI를 만들어 낼 수 있는 시스템을 갖추게 되었음
- 이는 지금까지 모든 역사상 가장 중대한 사실일 수 있음
- 몇 천 일 안에 초지능을 갖출 수도 있음. 더 오래 걸릴 수도 있지만 결국에는 그곳에 도달할 것이라고 확신함
Deep Learning의 성공
- Deep Learning이 성공했기 때문에 우리는 번영의 다음 도약의 문턱에 서게 되었음
- Deep Learning은 정말로 모든 데이터 분포(또는 모든 데이터 분포를 생성하는 기본 "규칙")를 학습할 수 있는 알고리듬임
- 놀라울 정도로 정확하게, 사용 가능한 컴퓨팅 능력과 데이터가 많을수록 사람들이 어려운 문제를 해결하는 데 더 도움이 됨
- 아직 해결해야 할 세부 사항들이 많지만, 특정 과제에 주의를 빼앗기는 것은 실수임. Deep Learning은 작동하며, 우리는 남아있는 문제들을 해결할 것임
AI 시스템의 발전 전망
- AI 모델은 곧 의료 관리를 조정하는 등 우리를 대신해 특정 작업을 수행하는 자율 개인 비서 역할을 할 것임
- 향후 어느 시점에서는 AI 시스템이 너무 뛰어나져서 차세대 시스템을 만드는 데 도움을 주고 전반적인 과학 발전을 이룰 것임
- 기술은 우리를 석기 시대에서 농경 시대로, 그리고 산업 시대로 이끌었음. 앞으로 지능 시대로 가는 길은 컴퓨팅, 에너지, 인간의 의지로 포장될 것임
AI 인프라 확충의 필요성
- 가능한 한 많은 사람들에게 AI를 제공하려면 컴퓨팅 비용을 낮추고 풍부하게 만들어야 함 (이를 위해서는 많은 에너지와 칩이 필요함)
- 충분한 인프라를 구축하지 않으면 AI는 전쟁의 대상이 되고 주로 부자들의 도구가 되는 매우 제한적인 자원이 될 것임
- 현명하게 행동해야 하지만 확신을 가지고 행동해야 함. 지능 시대의 여명은 매우 복잡하고 엄청나게 중요한 도전 과제를 안고 있는 중대한 발전임
밝은 미래에 대한 믿음
- 미래는 너무나 밝아서 지금 그것에 대해 글을 쓰려고 해도 아무도 그것을 제대로 표현할 수 없을 것임
- 지능 시대의 특징은 엄청난 번영이 될 것임
- 점진적으로 일어나겠지만, 기후 문제 해결, 우주 식민지 건설, 모든 물리학의 발견과 같은 놀라운 승리는 결국 흔한 일이 될 것임
- 거의 무한한 지능과 풍부한 에너지, 즉 위대한 아이디어를 만들어 내고 그것을 실현시킬 수 있는 능력이 있다면 우리는 상당히 많은 일을 할 수 있음
AI의 위험 요소 최소화 필요성
- 다른 기술에서 보았듯이 단점도 있을 것이며, AI의 이점을 최대화하고 해로운 점을 최소화하기 위해 지금부터 노력을 시작해야 함
- 한 가지 예로, 이 기술이 향후 수년 내에 노동 시장에 상당한 변화(좋은 면과 나쁜 면)를 초래할 수 있을 것으로 예상되지만, 대부분의 일자리는 대부분의 사람들이 생각하는 것보다 더 천천히 변할 것이며, 우리가 할 일이 바닥날 것이라는 두려움은 없음
확장하는 세계에서의 긍정적 게임
- 사람들은 무언가를 만들고 서로에게 유용하고자 하는 타고난 욕구가 있으며, AI는 우리 자신의 능력을 그 어느 때보다도 증폭시킬 수 있게 해줄 것임
- 사회로서 우리는 다시 확장하는 세계에 있게 될 것이며, 우리는 다시 긍정적인 합산 게임에 집중할 수 있음
- 오늘날 우리가 하는 많은 일들은 몇 백 년 전 사람들에게는 하찮은 시간 낭비로 보였겠지만, 아무도 과거를 돌아보며 가로등 점등원이 되길 바라지는 않음
- 가로등 점등원이 오늘날의 세계를 본다면, 그를 둘러싼 모든 번영이 상상할 수 없는 것처럼 느껴질 것임. 그리고 우리가 지금부터 100년 후로 빨리 감기를 할 수 있다면, 우리 주변의 번영은 똑같이 상상할 수 없을 만큼 느껴질 것임
GN+의 의견
- AI의 발전은 인류 역사상 가장 큰 변곡점 중 하나가 될 수 있음. 기술의 발전이 인간의 삶에 가져온 변화를 생각해보면 AI가 미칠 영향력은 상상을 초월할 것임
- AI로 인한 노동 시장의 변화는 불가피해 보이나, 인간만이 할 수 있는 창의적이고 감성적인 영역은 여전히 존재할 것임. 핵심은 AI와 협업하며 인간 고유의 가치를 발휘하는 것
- 기후 위기, 에너지 고갈, 불평등 심화 등 인류가 직면한 문제 해결에 AI가 기여할 수 있을 것임. 동시에 AI로 인한 부작용도 최소화해야 함
- 특히 AI가 소수에 의해 독점되지 않고 모두를 위해 활용되도록 하는 것이 중요함. 이를 위해 정부와 기업, 시민사회가 협력해야 함
- Anthropic의 Claude, Stability AI의 StableLM, OpenAI의 GPT 등 대형 언어모델 간 경쟁이 가속화되고 있음. 기술 발전과 함께 AI의 윤리적 활용에 대한 논의도 활발해질 것으로 보임
이미 전 인류가 먹고 살기에 충분한 식량과 재화를 생산하고 있지만 분배는 되지 않고 있으죠.
이 분배 문제를 먼저 해결하지 않는 한, AI를 통한 생산성 증대는 양극화만 가속화되어 극상위 부자들만의 세상이 될 것 같네요.
멀리 내다볼 것도 없이 당장 OpenAI만 해도 점유율 좀 오르니 원래의 목표를 잊고 GPT3의 오픈소스화를 거부했죠.
자기들 말로는 비용 충당을 위해 그랬다는데 오픈소스랑 수익화랑은 별 관계가 없고요. 어차피 개인은 돌릴 리소스 없고 기업들은 돈 내고 써야하죠. 오픈소스로 공개한 다른 회사들은 뭘까요.
AI가 불평등을 심화시켰으면 심화시켰지 완화할 일은 없을 것 같네요.
AI가 전 인류가 풍족하게 살 수 있도록 만들고 인류의 목표여야 한다는 듯한 태도는 참으로 오만하기 짝이 없네요. 가자에서 포격을 받고 죽어가는 민간인들에게 AI가 정말 도움이 될까요? 알츠하이머로 기억을 잃어가는 노인들에게 AI를 쥐어주면 뭔가 나아질까요? AI가 세상에 긍정적인 영향을 미칠 것이라고 생각하는 것은 이해하지만 마치 AI가 인류의 궁극적 발전 목표여야 한다는 태도는 실체에 비해 너무 부풀려진 것 같네요.
AI의 거두 알트먼이 AI 처음 나왔을 때의 기대에 부풀었던 모습 그대로 적었네요.
저나 주변 사람들이나 chat gpt 등 쓰다보니 더 빠른 인터넷 검색 수준에서 크게 벗어나지 못하고 있고
AI결합 서비스들도 그다지 신통치 않은데요.
주식 가격 올리고 싶은 마음이 많이 보이네요.
인류는 대기중 온실가스 농도를 단 한 해도 줄여본 적이 없습니다. 기껏해야 코로나 사태로 증가폭이 둔화된 사례가 있을 뿐입니다. 즉, 브레이크조차 밟아본 적이 없는데 감히 어떻게 후진을 논할까요? 계속되는 초지능 hype. 근데 이제 기후위기를 곁들인.
기후 문제 해결을 보면 경제가 발전하면서 에너지 소비를 덜 하게 된다고 주장하는 셈인데 인간의 심리로 그게 가능하긴 한지 의문입니다. 불평등 심화의 문제도 마찬가지로 사람의 문제인데 그걸 왜, 어떻게 기술로 해결하겠다는 건지 잘 모르겠네요. 이런 글이 기술 낙관주의의 예시인 건가 싶기도 합니다
AI로 노동 없는 세상이 정말 온다고 해도 그로써 불평등의 해결이 된다는 주장은 낙수효과와 같은 어이없는 낙관론이죠.
AI와 연결된 생산 시설을 가진 이들이 모든 부를 독점하고 나머지들에게 아주 일부분을 선심 쓰듯이 던져주겠죠.
폭발적인 성장이 일어나면 일부가 모든 부를 독점하게 되고 그런 상황에 물리적인 혁명을 제외하고는 해결할 방법이 없다는 것을 역사가 꾸준히 증명했죠.
시민들이 자신의 권리를 적극적으로 주장하지 않는 이상 결국 모든 것은 일부 소수들에게 돌아갈 것입니다.
AI는 의식의 확장을 위한 수단입니다. 물질 진화를 통해 인체가 마련되고, 이성과 과학의 발전으로 의식이 발전했고, 이제 그 의식을 통제하기 위해 영성 문명의 시대가 열릴 것입니다.
처음에는 AI를 활용하여 풍성한 어휘와 정교한 그림 및 사진으로 다양한 커뮤니케이션을 하겠지만, AI가 보편화되면 그들만의 최적의 의사 소통 방법을 통해서 인류가 이해할 수 없는 방법으로 정보를 주고 받는 시대가 올 수도 있겠죠?
Ai로 아이들에게 도움을 주는게 아니라 아이들이 Ai와 싸워야 할 가능성이 높음..이길 가망성은 거의 없다고 생각함..그나마 돈이라도 있으면 버틸 가능성이 있으나 그것도 오래가지 못할 것 같음..얼마나 걸릴지가 관건인 것 같음..
핵처럼 제한을 걸지도 모르겠음 그것도 얼마나 버틸지 알 수가 없음..
Hacker News 의견
-
AI를 많은 사람들에게 제공하려면 컴퓨팅 비용을 낮추고 인프라를 확충해야 함
- 인프라 부족 시 AI는 제한된 자원이 되어 전쟁의 원인이 될 수 있음
- AI 상업화가 중요하며, 자금 조달 제약이 문제임
-
딥러닝은 효과적이며, AI는 규모가 커질수록 더 나아질 것임
- AI를 자주 사용하지만, AI 개발자와 판매자에 대한 회의감이 있음
- AI의 성능 향상은 점점 더 많은 데이터와 계산 자원을 필요로 함
-
"몇 천일"이라는 표현은 "약 10년"을 의미하며, 마케팅 심리학적 트릭임
- "몇 천일"은 "10년"보다 다른 의미로 느껴짐
-
인간이 모든 데이터 분포를 학습할 수 있는 알고리즘을 발견했다는 주장에 회의적임
- Universal Approximation Theorem을 잘못 해석한 것임
- 최적의 매개변수를 학습하는 알고리즘이 있다는 주장은 근거가 없음
-
지능 시대의 특징은 대규모 번영이 될 것이라는 주장에 회의적임
- AI는 불평등과 불공정을 가속화할 것임
- 기술 발전은 자원과 가치를 포착하는 데 집중되어 있음
- 경제 활동이 추적되지만 자산 소유자는 불분명함
-
자녀들이 가상 튜터를 통해 맞춤형 교육을 받을 수 있을 것임
- 이미 AI를 사용하여 책이나 기사를 업로드하고 대화하는 방식으로 활용 중임
- 디지털 화이트보드와의 협업 기능이 부족함
-
OAI의 성과는 놀랍지만, 인간 스타일의 저렴한 지능이 큰 영향을 미치지 않을 것임
- 현재의 문제는 지능이 아니라 자금 조달임
- AI가 비용을 줄여도 실제로 가치 있는 프로젝트는 적을 것임
-
AI가 교육의 정점이 될 것이라는 주장은 무의미하게 느껴짐
- AI가 모든 작업을 수행한다면 교육의 의미가 없어질 것임
- 인간 지능이 AI에 뒤처지는 세상에서는 교육이 현재와 다를 것임
-
AI가 자율적인 개인 비서로서 특정 작업을 수행할 것이라는 주장은 상상력이 부족함
- 복잡한 시스템을 AI가 해결하는 대신 시스템 자체를 개선하는 것이 더 나을 것임