GN⁺: 지능의 시대 (The Intelligence Age) - 샘 알트만

(ia.samaltman.com)

27P by neo 3달전 | favorite | 댓글 18개

AI가 가져올 엄청난 변화

향후 몇 십 년 동안 우리 조상들이 마법처럼 여겼을 일들을 할 수 있게 될 것임
이러한 현상은 새로운 것은 아니지만, AI로 인해 더욱 가속화될 것임
유전적 변화 때문이 아니라 사회 기반 시설 자체가 우리 개개인보다 훨씬 더 똑똑하고 유능해졌기 때문에 인간의 능력이 크게 향상되었음
AI는 사람들에게 어려운 문제를 해결할 수 있는 도구를 제공하고, 우리 스스로는 알아낼 수 없었던 새로운 발전을 이룰 수 있게 도와줄 것임

AI가 가져다 줄 개인 맞춤형 솔루션

곧 AI의 도움으로 AI 없이는 결코 할 수 없었던 일들을 훨씬 더 많이 해낼 수 있게 될 것임
궁극적으로는 각자 상상할 수 있는 거의 모든 것을 만들어낼 수 있는 다양한 분야의 가상 전문가들로 구성된 개인 AI 팀을 갖출 수 있게 될 것임
우리 아이들은 어떤 과목이든, 어떤 언어로든, 필요한 속도에 맞춰 개인 맞춤형 교육을 제공하는 가상 튜터를 갖게 될 것임
더 나은 의료, 누구나 상상할 수 있는 모든 종류의 소프트웨어를 만드는 능력 등에 대해서도 비슷한 아이디어를 생각해 볼 수 있음

공유된 번영의 시대

이러한 새로운 능력으로 오늘날로서는 상상할 수 없을 정도로 공유된 번영을 누릴 수 있게 될 것임
미래에는 모든 사람의 삶이 지금 누구의 삶보다도 더 나아질 수 있음
번영이 반드시 사람들을 행복하게 만들지는 않지만, 전 세계 사람들의 삶을 의미 있게 개선시킬 것임

역사상 가장 중대한 사실

수천 년 동안 과학적 발견과 기술 진보가 축적된 끝에, 우리는 모래를 녹이고 불순물을 추가하며 놀라울 정도로 정밀하고 극도로 작은 규모로 컴퓨터 칩을 배열하고 에너지를 흘려보내는 방법을 알아냈고, 그 결과 점점 더 유능한 AI를 만들어 낼 수 있는 시스템을 갖추게 되었음
이는 지금까지 모든 역사상 가장 중대한 사실일 수 있음
몇 천 일 안에 초지능을 갖출 수도 있음. 더 오래 걸릴 수도 있지만 결국에는 그곳에 도달할 것이라고 확신함

Deep Learning의 성공

Deep Learning이 성공했기 때문에 우리는 번영의 다음 도약의 문턱에 서게 되었음
Deep Learning은 정말로 모든 데이터 분포(또는 모든 데이터 분포를 생성하는 기본 "규칙")를 학습할 수 있는 알고리듬임
놀라울 정도로 정확하게, 사용 가능한 컴퓨팅 능력과 데이터가 많을수록 사람들이 어려운 문제를 해결하는 데 더 도움이 됨
아직 해결해야 할 세부 사항들이 많지만, 특정 과제에 주의를 빼앗기는 것은 실수임. Deep Learning은 작동하며, 우리는 남아있는 문제들을 해결할 것임

AI 시스템의 발전 전망

AI 모델은 곧 의료 관리를 조정하는 등 우리를 대신해 특정 작업을 수행하는 자율 개인 비서 역할을 할 것임
향후 어느 시점에서는 AI 시스템이 너무 뛰어나져서 차세대 시스템을 만드는 데 도움을 주고 전반적인 과학 발전을 이룰 것임
기술은 우리를 석기 시대에서 농경 시대로, 그리고 산업 시대로 이끌었음. 앞으로 지능 시대로 가는 길은 컴퓨팅, 에너지, 인간의 의지로 포장될 것임

AI 인프라 확충의 필요성

가능한 한 많은 사람들에게 AI를 제공하려면 컴퓨팅 비용을 낮추고 풍부하게 만들어야 함 (이를 위해서는 많은 에너지와 칩이 필요함)
충분한 인프라를 구축하지 않으면 AI는 전쟁의 대상이 되고 주로 부자들의 도구가 되는 매우 제한적인 자원이 될 것임
현명하게 행동해야 하지만 확신을 가지고 행동해야 함. 지능 시대의 여명은 매우 복잡하고 엄청나게 중요한 도전 과제를 안고 있는 중대한 발전임

밝은 미래에 대한 믿음

미래는 너무나 밝아서 지금 그것에 대해 글을 쓰려고 해도 아무도 그것을 제대로 표현할 수 없을 것임
지능 시대의 특징은 엄청난 번영이 될 것임
점진적으로 일어나겠지만, 기후 문제 해결, 우주 식민지 건설, 모든 물리학의 발견과 같은 놀라운 승리는 결국 흔한 일이 될 것임
거의 무한한 지능과 풍부한 에너지, 즉 위대한 아이디어를 만들어 내고 그것을 실현시킬 수 있는 능력이 있다면 우리는 상당히 많은 일을 할 수 있음

AI의 위험 요소 최소화 필요성

다른 기술에서 보았듯이 단점도 있을 것이며, AI의 이점을 최대화하고 해로운 점을 최소화하기 위해 지금부터 노력을 시작해야 함
한 가지 예로, 이 기술이 향후 수년 내에 노동 시장에 상당한 변화(좋은 면과 나쁜 면)를 초래할 수 있을 것으로 예상되지만, 대부분의 일자리는 대부분의 사람들이 생각하는 것보다 더 천천히 변할 것이며, 우리가 할 일이 바닥날 것이라는 두려움은 없음

확장하는 세계에서의 긍정적 게임

사람들은 무언가를 만들고 서로에게 유용하고자 하는 타고난 욕구가 있으며, AI는 우리 자신의 능력을 그 어느 때보다도 증폭시킬 수 있게 해줄 것임
사회로서 우리는 다시 확장하는 세계에 있게 될 것이며, 우리는 다시 긍정적인 합산 게임에 집중할 수 있음
오늘날 우리가 하는 많은 일들은 몇 백 년 전 사람들에게는 하찮은 시간 낭비로 보였겠지만, 아무도 과거를 돌아보며 가로등 점등원이 되길 바라지는 않음
가로등 점등원이 오늘날의 세계를 본다면, 그를 둘러싼 모든 번영이 상상할 수 없는 것처럼 느껴질 것임. 그리고 우리가 지금부터 100년 후로 빨리 감기를 할 수 있다면, 우리 주변의 번영은 똑같이 상상할 수 없을 만큼 느껴질 것임

GN+의 의견

AI의 발전은 인류 역사상 가장 큰 변곡점 중 하나가 될 수 있음. 기술의 발전이 인간의 삶에 가져온 변화를 생각해보면 AI가 미칠 영향력은 상상을 초월할 것임
AI로 인한 노동 시장의 변화는 불가피해 보이나, 인간만이 할 수 있는 창의적이고 감성적인 영역은 여전히 존재할 것임. 핵심은 AI와 협업하며 인간 고유의 가치를 발휘하는 것
기후 위기, 에너지 고갈, 불평등 심화 등 인류가 직면한 문제 해결에 AI가 기여할 수 있을 것임. 동시에 AI로 인한 부작용도 최소화해야 함
특히 AI가 소수에 의해 독점되지 않고 모두를 위해 활용되도록 하는 것이 중요함. 이를 위해 정부와 기업, 시민사회가 협력해야 함
Anthropic의 Claude, Stability AI의 StableLM, OpenAI의 GPT 등 대형 언어모델 간 경쟁이 가속화되고 있음. 기술 발전과 함께 AI의 윤리적 활용에 대한 논의도 활발해질 것으로 보임

▲

ndrgrd 3달전 [-]

멀리 내다볼 것도 없이 당장 OpenAI만 해도 점유율 좀 오르니 원래의 목표를 잊고 GPT3의 오픈소스화를 거부했죠.

자기들 말로는 비용 충당을 위해 그랬다는데 오픈소스랑 수익화랑은 별 관계가 없고요. 어차피 개인은 돌릴 리소스 없고 기업들은 돈 내고 써야하죠. 오픈소스로 공개한 다른 회사들은 뭘까요.

AI가 불평등을 심화시켰으면 심화시켰지 완화할 일은 없을 것 같네요.