GN⁺: 지능의 시대 (The Intelligence Age) - 샘 알트만

(ia.samaltman.com)

AI가 가져올 엄청난 변화

곧 AI의 도움으로 AI 없이는 결코 할 수 없었던 일들을 훨씬 더 많이 해낼 수 있게 될 것임
궁극적으로는 각자 상상할 수 있는 거의 모든 것을 만들어낼 수 있는 다양한 분야의 가상 전문가들로 구성된 개인 AI 팀을 갖출 수 있게 될 것임
우리 아이들은 어떤 과목이든, 어떤 언어로든, 필요한 속도에 맞춰 개인 맞춤형 교육을 제공하는 가상 튜터를 갖게 될 것임
더 나은 의료, 누구나 상상할 수 있는 모든 종류의 소프트웨어를 만드는 능력 등에 대해서도 비슷한 아이디어를 생각해 볼 수 있음

수천 년 동안 과학적 발견과 기술 진보가 축적된 끝에, 우리는 모래를 녹이고 불순물을 추가하며 놀라울 정도로 정밀하고 극도로 작은 규모로 컴퓨터 칩을 배열하고 에너지를 흘려보내는 방법을 알아냈고, 그 결과 점점 더 유능한 AI를 만들어 낼 수 있는 시스템을 갖추게 되었음
이는 지금까지 모든 역사상 가장 중대한 사실일 수 있음
몇 천 일 안에 초지능을 갖출 수도 있음. 더 오래 걸릴 수도 있지만 결국에는 그곳에 도달할 것이라고 확신함

Deep Learning이 성공했기 때문에 우리는 번영의 다음 도약의 문턱에 서게 되었음
Deep Learning은 정말로 모든 데이터 분포(또는 모든 데이터 분포를 생성하는 기본 "규칙")를 학습할 수 있는 알고리듬임
놀라울 정도로 정확하게, 사용 가능한 컴퓨팅 능력과 데이터가 많을수록 사람들이 어려운 문제를 해결하는 데 더 도움이 됨
아직 해결해야 할 세부 사항들이 많지만, 특정 과제에 주의를 빼앗기는 것은 실수임. Deep Learning은 작동하며, 우리는 남아있는 문제들을 해결할 것임

AI 모델은 곧 의료 관리를 조정하는 등 우리를 대신해 특정 작업을 수행하는 자율 개인 비서 역할을 할 것임
향후 어느 시점에서는 AI 시스템이 너무 뛰어나져서 차세대 시스템을 만드는 데 도움을 주고 전반적인 과학 발전을 이룰 것임
기술은 우리를 석기 시대에서 농경 시대로, 그리고 산업 시대로 이끌었음. 앞으로 지능 시대로 가는 길은 컴퓨팅, 에너지, 인간의 의지로 포장될 것임

미래는 너무나 밝아서 지금 그것에 대해 글을 쓰려고 해도 아무도 그것을 제대로 표현할 수 없을 것임
지능 시대의 특징은 엄청난 번영이 될 것임
점진적으로 일어나겠지만, 기후 문제 해결, 우주 식민지 건설, 모든 물리학의 발견과 같은 놀라운 승리는 결국 흔한 일이 될 것임
거의 무한한 지능과 풍부한 에너지, 즉 위대한 아이디어를 만들어 내고 그것을 실현시킬 수 있는 능력이 있다면 우리는 상당히 많은 일을 할 수 있음

다른 기술에서 보았듯이 단점도 있을 것이며, AI의 이점을 최대화하고 해로운 점을 최소화하기 위해 지금부터 노력을 시작해야 함
한 가지 예로, 이 기술이 향후 수년 내에 노동 시장에 상당한 변화(좋은 면과 나쁜 면)를 초래할 수 있을 것으로 예상되지만, 대부분의 일자리는 대부분의 사람들이 생각하는 것보다 더 천천히 변할 것이며, 우리가 할 일이 바닥날 것이라는 두려움은 없음

사람들은 무언가를 만들고 서로에게 유용하고자 하는 타고난 욕구가 있으며, AI는 우리 자신의 능력을 그 어느 때보다도 증폭시킬 수 있게 해줄 것임
사회로서 우리는 다시 확장하는 세계에 있게 될 것이며, 우리는 다시 긍정적인 합산 게임에 집중할 수 있음
오늘날 우리가 하는 많은 일들은 몇 백 년 전 사람들에게는 하찮은 시간 낭비로 보였겠지만, 아무도 과거를 돌아보며 가로등 점등원이 되길 바라지는 않음
가로등 점등원이 오늘날의 세계를 본다면, 그를 둘러싼 모든 번영이 상상할 수 없는 것처럼 느껴질 것임. 그리고 우리가 지금부터 100년 후로 빨리 감기를 할 수 있다면, 우리 주변의 번영은 똑같이 상상할 수 없을 만큼 느껴질 것임

AI의 발전은 인류 역사상 가장 큰 변곡점 중 하나가 될 수 있음. 기술의 발전이 인간의 삶에 가져온 변화를 생각해보면 AI가 미칠 영향력은 상상을 초월할 것임
AI로 인한 노동 시장의 변화는 불가피해 보이나, 인간만이 할 수 있는 창의적이고 감성적인 영역은 여전히 존재할 것임. 핵심은 AI와 협업하며 인간 고유의 가치를 발휘하는 것
기후 위기, 에너지 고갈, 불평등 심화 등 인류가 직면한 문제 해결에 AI가 기여할 수 있을 것임. 동시에 AI로 인한 부작용도 최소화해야 함
특히 AI가 소수에 의해 독점되지 않고 모두를 위해 활용되도록 하는 것이 중요함. 이를 위해 정부와 기업, 시민사회가 협력해야 함
Anthropic의 Claude, Stability AI의 StableLM, OpenAI의 GPT 등 대형 언어모델 간 경쟁이 가속화되고 있음. 기술 발전과 함께 AI의 윤리적 활용에 대한 논의도 활발해질 것으로 보임

이미 전 인류가 먹고 살기에 충분한 식량과 재화를 생산하고 있지만 분배는 되지 않고 있으죠.
이 분배 문제를 먼저 해결하지 않는 한, AI를 통한 생산성 증대는 양극화만 가속화되어 극상위 부자들만의 세상이 될 것 같네요.