AI: 디스토피아인가 유토피아인가?

• 코슬라 벤처스 Vinod Khosla의 글

1. 서론

• 40년 동안 파괴적 혁신에 헌신하고 연구해 왔음. 마이크로프로세서로 시작하여 Sun Microsystems에서 선구적으로 분산 컴퓨팅과 개인용 컴퓨터의 발전을 이끌었음
• 1996년 브라우저의 출현은 또 다른 획기적인 전환점이었음. Netscape에 투자하고 Juniper를 육성하여 인터넷의 기본 TCP/IP 백본을 구축했음. 이는 인터넷 혁명의 새벽이었고, Amazon과 Google 같은 신생 거대 기업에 전략적 투자를 했음
• 2007년 iPhone의 등장과 함께 모바일 플랫폼 시대가 도래했음. 각 새로운 플랫폼은 거대한 애플리케이션 혁신과 새로운 아이디어의 폭발을 가능하게 했음
• 정도(degree)의 차이가 종류(kind)의 차이가 되는 지점이 있는데, AI는 이전의 기술 단계 변화와는 다른 종류일 가능성이 높음. 마이크로프로세서, 인터넷, 모바일 폰은 인간의 두뇌를 활용하기 위한 도구였지만 AI는 인간의 두뇌 자체를 증폭시키고 곱함
• 증기 기관과 모터의 출현이 근육 힘을 증폭시킨 것처럼, AI는 이에 대한 지적 병행을 이룸. 전문성, 사고력, 지식을 곱할 수 있는 능력은 향후 10년 동안 인간 두뇌 능력을 크게 초월할 수 있음을 의미함
• 인공지능은 전례 없는 풍요로움의 미래를 약속함. 단기적으로는 대체되는 사람들에게 고통스러울 수 있지만, 잘 추론된 정책을 통해 그 후유증을 완화할 수 있음
• 앞으로의 0-10년, 10-25년, 25-50년 시간대는 서로 크게 다를 것임. 인간 지능을 훨씬 뛰어넘는 기술 능력과 분야별 사회 침투율에 대해 변화 속도를 예측하거나 예상하기 어려울 것임
• 미래가 디스토피아적인지 유토피아적인지에 대한 현재의 혼란을 가중시키는 것은 수반되는 실패와 함께 견해를 왜곡하는 현재의 AI 과대광고(Hype) 사이클임
  • 대부분의 AI 벤처는 재정적 손실로 끝날 것임
  • 하지만 세상을 바꾸는 소수의 기업들에 의해 총체적으로는 손실보다 더 많은 돈이 벌어질 것
  • 가장 흥분시키는 것은 AI의 수익 규모가 아니라 세상의 흐름을 바꾸고 사회 인프라를 더 나은 방향으로 재창조할 수 있는 잠재력

2. AI에 대한 디스토피아적 견해

• 비관론자(Pessimists)들과 파멸론자(Doomers)들은 디스토피아적 미래를 경제적, 사회적 측면에서 묘사함
  • 그들의 우려에 대해 나는 대부분 근거 없고, 근시안적이며, 과장되고, 실제로 유해하다고 지적함
  • 이러한 우려는 사회적 선택을 통해 해결 가능함
  • 나는 파멸론자들의 디스토피아가 위험/보상 측면에서 잘못된 계산이라고 봄
  • AI의 위험은 실재하지만 관리 가능함
• 현재의 논쟁에서 파멸론자들은 "나쁜 지적 AI"의 작은 위험에 초점을 맞추고 있으며, 가장 명백한 위험인 "국가"나 다른 악의적 행위자에게 AI 경쟁에서 지는 것을 간과하고 있음
  • AI를 두려워하고 민주주의를 침식하며 사회를 조종할 수 있다고 우려하는 사람들이 가장 두려워해야 할 위험임
  • 중국에게 지면 안 되는 이유이자, 전 인류를 위해 AI를 사용해야 하는 이유임
• 중국은 파멸론자들의 악몽이 가장 빨리 실현되는 방법임
  • "세계에서 가장 강력한 기술의 공평한 분배를 위해 시진핑과 그의 푸틴 같은 측근들을 믿을 준비가 되셨나요? 그게 바로 디스토피아일 것"

A. 일자리 감소와 경제적 불평등

• 경제적 디스토피아에서는 부가 상위층에 집중되는 반면 지적, 육체적 노동의 가치가 떨어지고, 광범위한 실업과 디플레이션이 경제와 구매력을 파괴하며, 불평등이 심화됨
  • AI는 소수의 엘리트는 번영하는 반면 나머지는 경제적 불안정에 직면하는 세상을 만들 수 있음. 특히 강력한 정책 없이 표류하는 민주주의에서 그러함
  • 그러나 소득 재분배, 최소 생활 수준 보장(아마도 UBI?, Universal Basic Income), 민주주의에 의해 주도되는 전략적 입법 등 현명한 개입을 통해 이를 방지할 수 있음
  • 자본주의와 세금 구조는 민주주의의 허락하에 있으며, 민주주의는 이러한 전환을 가능케 할 수 있음
• 좋은 소식은 AI가 충분히 부를 창출하여 모두에게 돌아갈 수 있으며, AI가 없는 세상보다 모두가 더 나아질 것이라는 점
  • 고령화되는 글로벌 인구와 줄어드는 젊은 노동자 풀을 고려하면 AI는 필수적임
  • 올바른 정책으로 전환기를 순조롭게 하고 3일 근무제를 도입할 수도 있음
• GDP 성장률이 2%에서 5%로 뛰면 "전환 기금"을 만들 수 있는 풍요로움이 생길 것임. 노르웨이 같은 국가의 번영을 이끈 석유 기금과 유사함

B. 사회 통제와 조작

• 사회적으로 부정론자들은 AI가 만연한 감시로 시작해 인류를 위협하는 세상을 그림
  • 그러나 이러한 결과는 불가피한 것이 아님. 각 나라별로 시행되는 입법이 AI가 우리 삶에 어떻게 통합될지 결정할 것임
  • 민주 사회에서 이는 집단적 선택이 될 것임. 나는 범죄가 줄어드는 사회를 위해 어느 정도 자유를 양보할 용의가 있음. 그렇다고 전체주의를 수용하자는 것은 아님
  • AI로 인해 범죄의 이유 자체가 줄어들 수도 있음
  • AI의 법적 사용에 제약을 가하려 한다면, AI의 발전으로 인한 이점을 누리면서도 알람주의자들이 예측하는 디스토피아적 비전에 굴복하지 않는 합리적인 균형을 이룰 수 있음
• 추가적인 우려로는 AI가 여론을 조작하고, 정보를 통제하며, 타겟팅된 선전이나 딥페이크 기술을 통해 선거에 영향을 미치는 데 사용될 수 있다는 점이 있음
  • 실제로 2024년 미국 대선에서 러시아의 간섭이 이미 목격되고 있으며, 더 강력한 AI로 인해 상황이 훨씬 더 악화될 수 있음. 이는 민주주의를 훼손하고 진실을 식별하기 어려운 사회를 만들 수 있음
  • 그러나 조작과 통제에 대한 우려는 단일의 전제적 AI 통치자가 있을 것이라는 가정에 의존하는데, 이는 현실성이 떨어짐
  • 더 가능성이 높은 것은 각기 다른 이해관계를 위해 봉사하는 다양한 AI를 보게 될 것이라는 점
• 내가 구상하는 것은 모든 개인을 위한 개인 AI 에이전트로, 조작적 마케팅과 오늘날의 브레인 해킹으로부터 그들을 보호하도록 설계된 것. 여기서 브레인 해킹이란 마케터들이 소비자들로 하여금 그렇지 않았다면 사지 않았을 물건을 사거나 클릭하게 만드는 것
  • 우리는 강력한 AI가 각 개인을 대변하고 보호할 것으로 예상됨
  • 디지털 시대의 "스파이 대 스파이"로 생각해 보라. AI는 우리를 조종할 유인을 가진 기업 AI에 맞서 소비자이자 시민으로서 우리에게 힘을 실어줌

C. 인간 주체성의 상실과 AI 시스템의 윤리적 고려사항

• 의료, 사법, 거버넌스 등의 영역에서 AI가 중요한 결정을 내리는 것에 대한 우려는 현재 시스템의 숨겨진 편견을 고려할 때 타당함
  • 그러나 이러한 편견은 인간에게서 비롯되며, AI는 이를 인식하고 바로잡을 기회를 제공함
  • 예를 들어, 인간 의사는 수술에 대한 보수를 받으면 더 많은 수술을 하는 경향이 있으며, 이들이 편견이 없다고 주장하기는 어려움
  • AI는 편견 없는 진료를 제공할 수 있는 유일한 방법이 될 것임. AI는 편견을 드러내고 이를 교정할 것임. 이는 풍요로운 세상과 더 공평한 접근성을 만들어 낼 것
  • 내 견해로는 인간은 AI의 의사 결정 권한을 취소할 수 있는 권력을 보유할 것이며, 이를 통해 AI가 통제되지 않는 힘이 아닌 인간의 합의에 의해 인도되는 "기관"으로 남게 될 것임
  • 지각 있고 악의적인 AI의 망령은 위험하지만, 우리가 완화할 수 있는 위험임
• AI가 일을 재편하고 궁극적으로 의료, 사법, 거버넌스에서 결정을 내리면서 잠재적으로 인간의 지성과 판단을 무시함에 따라, 우리는 인간의 목적을 재정의하고 현재의 결과를 개선할 기회에 직면함
  • 오늘날 우리는 6세부터 학교에서 교육을 받아 직업을 확보하도록 프로그래밍되는데, 이는 결국 우리의 자아감의 상당 부분을 형성하게 됨
  • 그러나 25년 후에는 이러한 절박한 의무 없이 아이들에게 탐구, 상상, 발견, 실험을 가르칠 수 있을 것임
  • 사람들을 생존을 위한 일자리에서 해방시키는 것은 인간이 된다는 것의 의미를 재정의하고, 우리의 "인간다움"을 증가시키며, 우리의 목표의 다양성을 확장할 수 있음
• 궁극적으로 "인간다움"은 생존 노역의 사슬에서 벗어나 이러한 동기를 추구할 자유에 의해 정의될 것임
  • 무엇보다도 자원 경쟁이 적은 세상에서는 더 많은 인간이 외부의 압력보다는 내적 동기에 의해 움직이기를 바람
  • 사회와 개인은 개인적으로 활용하고자 하는 기술과 시간을 투자하고 싶은 곳을 선택할 수 있을 것임
  • AI 활용 없이 개인적인 결정을 내리는 것을 좋아하는 사람이라면 코파일럿 없이 자유롭게 나아갈 수 있을 것임. 우리에게 강요되는 것은 없을 것임
  • AI는 지배자가 아니라 우리의 필요와 요청을 충족시키기 위해 사용할 수 있는 도구가 될 것임
  • 작은 규모로 미국의 아미쉬 사람들은 선택에 의해 기술을 포기함. 수천 개의 그러한 공동체가 있을 수 있음
• 위의 내용에 따라 AI에 대한 의존이 인간의 윤리 및 도덕적 기준을 약화시킬 수 있다는 우려가 있음
  • AI 시스템이 윤리적 고려사항보다 효율성을 우선시하도록 프로그래밍되면 유해하거나 부당한 결정이 내려질 수 있음
  • 그러나 이는 기계가 아닌 인간이 내리는 사회적 선택임. 잘못된다면 책임은 우리가 져야 함
• 동일한 이유로, 비관론자들이 기계가 인간의 가치, 윤리, 감정에 대한 미묘한 이해가 부족하기 때문에 윤리적, 도덕적 퇴보를 우려할 때, 나는 인간이 책임지는 것이 훨씬 더 큰 위험이라고 제안하고 싶음
  • 정렬(Alignment)은 중요하지만, 인간이 집단을 조율하고 결정을 내리려 할 때도 마찬가지로 말할 수 있음. 먼저 같은 목표를 갖는 것이 중요함
  • AI는 우리의 지시를 이해하고 따를 만큼 강력하거나 그렇지 않음. 우리는 둘 다 가질 수는 없음
  • 완전히 독립적인 AI는 아래에서 다루는 다른 더 큰 위험을 야기할 수 있지만, "충분히 스마트한 AI"가 우리의 지시를 이해하지 못하는 것은 그 중 하나가 아님

D. 창의성과 비판적 사고력 상실

• AI 세상에서 인간의 창의성과 비판적 사고력이 약화될 것이라는 우려에 대해 나는 그것이 편협한 시각이라고 생각함
  • 비평가들은 AI 알고리즘이 사용자에게 좁은 범위의 에코 챔버 아이디어를 제공하여 문화적 동질화가 일어날 것을 우려함
  • 또한 AI에 지나치게 의존하면 사람들이 기계에 의사 결정을 맡기면서 인간의 창의성, 문제 해결 능력, 비판적 사고력이 저하될 수 있다고 걱정함
• 그러나 나처럼 음악적 재능이 전혀 없는 사람도 AI를 통해 딸의 결혼식 때 내가 작성한 연설문을 전달하는 개인화된 노래를 만들 수 있는 세상을 보고 있음
  • 실화임. 이건 나에게 큰 의미가 있었음
  • AI를 통해 우리는 현재의 한계와 능력을 넘어 창의성을 확장할 수 있음
  • 훌륭한 예술가, 화가, 공연자들은 이러한 도구를 더욱 잘 활용할 수 있을 것임
• AI 시스템은 창의적인 작업에서 더 뛰어나거나 다를 수 있고, 곧 감정과 공감을 표현할 수 있으며, 그렇게 함으로써 인간을 보완할 수 있기 때문에 나는 인간성의 상실이 아니라 오히려 인간성의 증강, 향상, 확장이라고 생각함

E. AI의 자율성, 실존적 위험, 패권 그리고 중국

• 가장 극단적인 관점에서 비관론자들은 AI가 통제 불능 상태가 되어 인류를 멸종시킬 수 있다고 경고함
  • "감정을 가진, 독립적이고, 악의적인 AI"의 위험은 아마도 AI가 야기하는 가장 심각한 위협이며, 우리가 진지하게 받아들여야 할 위협임
  • AI가 급격히 인간의 통제를 벗어나는 "급격한 이륙(Hard Take-Off)"의 개념은 실제적이며 경계를 요하지만, 이 위험을 AI가 인류에 제공하는 엄청난 이점 또는 적대적인 국가의 손에 AI가 만들어내는 위험과 비교하여 평가하는 것이 중요함
• "AI의 대부"로 널리 알려진 요슈아 벤지오와 제프리 힌튼도 이러한 우려에 공감함
  • 단백질 구조 모델링과 같은 전문 작업에서 기계가 이미 인간의 능력을 능가하고 있는 가운데, 벤지오는 향후 10년 이내에 인간 지능을 능가하는 범용 AI가 등장할 수 있다고 경고함
  • 힌튼과 함께 벤지오는 악의적인 행위자나 조직에 의해 오용되는 AI의 재앙적 위험에 대해 경고함
  • AI가 자기 복제하고, 생존을 보호하며, 인간의 개입에 불침투성인 시스템을 구축하고, 디지털 인프라의 취약점을 악용할 수 있는 잠재력은 민주주의를 불안정하게 만들 뿐만 아니라 전 인류를 전복시킬 수 있음
  • 이러한 우려는 AI 자체에 관한 것일 뿐만 아니라 그러한 강력한 도구에 대한 접근성이 널리 퍼지고 악의적인 의도를 가진 사람들의 손에 떨어지는 것에 관한 것임
  • 벤지오는 AI 개발을 규제하고 오용을 방지하며 인류를 보호하기 위한 대책을 개발하기 위해 국제 협력을 옹호함
  • 나는 AI의 사용이 검증 가능하지 않기 때문에 국제 조약은 여기서 무의미하다고 주장할 것임 (생물학 무기나 핵무기와 달리 그 사용이 명백한 경우)
  • 맥스 테그마크도 "통제 문제"에 중점을 두고 있지만, 이것조차도 AI 안전 연구의 발전으로 해결되고 있음
  • OpenAI의 인간 피드백을 통한 강화 학습(RLHF) 연구와 AI 해석 가능성에 대한 광범위한 연구 집중은 더 투명하고 제어 가능한 시스템을 향해 이 분야를 밀어붙이고 있음
  • 미국 AI 안전 연구소의 AI 안전 책임자인 폴 크리스티아노는 정렬 문제가 실제로 존재하지만 해결 불가능한 것은 아니며 기술적 해결책과 더 엄격한 감독 프레임워크를 통해 점진적으로 해결되고 있다고 지적함
  • 여기에는 인간이 AI 학습 과정을 더 면밀히 감독할 수 있도록 하는 시스템이 포함되며, 이는 AI가 최적화하는 목표가 인간의 가치관과 일치하도록 보장함
• 게다가 핵무기나 전염병을 실존적 위험에 비유하는 것은 다소 적절하지 않음
  • AI와 달리 핵무기와 전염병은 즉각적이고 분명한 파괴력을 지님
  • 반면에 AI는 특정 기능을 제공하도록 설계되고 안내될 수 있는 도구임
  • "Human Compatible"의 저자인 스튜어트 러셀은 신중한 계획을 통해 AI가 위협이 되지 않도록 제어할 수 있다고 강조했음
  • 그는 AI가 그 목표에 대해 불확실성을 가지고 구축되어야 한다고 제안하며, 이는 AI가 그 결정에 대해 항상 인간의 승인을 구하도록 보장함
  • '가치 정렬(Value Aligmment)'이라고 불리는 이 접근 방식은 테그마크, 벤지오, 힌튼이 제안한 방식으로 AI가 통제를 벗어날 가능성을 낮춤
  • 그러나 이것은 자동적이거나 보장되는 것이 아니므로 더 많은 연구 자금이 필요함
  • 그러나 우호적이지 않은 국가와의 전투에서 AI 개발을 규제로 늦추는 것은 너무 큰 위험임
  • 뒤처지는 것은 단연코 나를 가장 두렵게 하는 위험임
• 메타의 수석 AI 과학자인 얀 르쿤과 같은 연구자들은 현재의 AI 시스템은 자기 인식이나 자율성에 필요한 기본 메커니즘이 부족하다고 지적했음
  • 그들에게 감각을 가진 AI가 인수할 것이라는 두려움은 크게 과장된 것임
  • 우리가 아는 AI는 독립적인 동기나 자체 목표를 설정할 수 있는 능력 없이 전적으로 인간이 생성한 입력과 목표에 의존하고 있음
  • 르쿤은 AI가 급속도로 발전하고 있지만 AI가 감각을 개발한다는 생각은 여전히 우리의 현재 기술 능력을 훨씬 뛰어넘는다고 주장함
  • (그러나 무엇이 가까운 시일 내에 가능할까요? 중국이 AI 경쟁에서 우위를 점하고 정권의 무력을 활용하여 전 세계의 정치적, 사회경제적 가치를 지배하는 것입니다. 이에 대해서는 아래에서 더 자세히 설명하겠습니다.)
  • 이러한 종말론적 공포에 대한 나의 종합은 고양이가 이미 자루에서 나왔다는 것이며, 우리는 AI를 활용하는 악의적 행위자들에게 완전히 취약해지는 것과 그 악의적인 AI에 대항할 수 있는 기술을 개발하는 것 사이에서 선택의 여지가 없다는 것임
• 더욱이, 우리는 여러 AI를 갖게 될 것이므로, 최악의 시나리오에서도 모든 AI가 동시에 인류에 대항하는 것은 가능성이 낮음
  • 우리는 인간에게 봉사하도록 설계된 많은 다양한 AI를 갖게 될 것임
  • AI 설명 가능성에 대한 관심이 높아지면 AI의 목표를 인간의 가치관과 일치시킴으로써 안전성이 향상될 가능성이 높음
  • 향후 10년 이내에 우리는 제어 가능성이 없는 "블랙박스 시스템"에 대한 공포를 넘어설 것이라고 믿음
  • 그러나 이 문제를 해결하려면 AI 안전과 윤리에 레이저와 같은 집중이 필요함
• AI 안전에 대한 대규모 투자가 중요하며, 대학 연구의 상당 부분이 이 분야에 초점을 맞추어야 함
  • 연방 정부는 안전 연구와 AI 탐지에 더 많이 투자해야 함
  • 적절한 연구와 테스트 후에는 "오프 스위치"와 같은 기능이 필요함
  • 국제 조약은 조약 준수 여부를 검증할 방법이 없기 때문에 불가능하다고 주장할 것임
  • 인류가 전염병, 소행성 충돌, 핵전쟁 등 많은 실존적 위험에 직면해 있다는 점도 기억해야 함
  • AI는 더 넓은 맥락에서 하나의 위험일 뿐이며, 우리는 이러한 위험과 AI가 가져올 수 있는 잠재적 이점 사이의 상충 관계를 고려해야 함
  • 내 견해로는 AI 기술에서 중국과 다른 적대국에 뒤처지는 위험이 자각력 있는 AI보다 훨씬 더 큼
  • AI 개발을 늦추는 것은 민주주의에 재앙이 될 수 있음
• 향후 20년 동안, 특히 AI 분야에서 기술 선도국으로 부상하는 국가는 기술, 경제적 이익, 영향력의 세계적 분배에 있어 지배적인 위치에 설 것이며, 따라서 가치관에 있어서도 그러할 것임
  • AI는 사이버 전쟁이나 킬러 로봇 같은 국방 응용 프로그램뿐만 아니라 지구를 위한 무료 의사, 무료 튜터와 같은 것에서 가장 가치 있는 기술이 될 것임
  • 이 AI 경쟁과 융합과 같은 관련 경쟁에서 승리하는 국가는 막강한 경제력을 바탕으로 정치권력을 장악하고 세계 정치 시스템에 기름을 부을 가능성이 높음
  • 동남아시아, 아프리카, 라틴 아메리카 등에 미치는 영향이 위태로움
  • 이 기술 전쟁에서 민주적 가치가 위험에 처해 있으므로 우리는 이 전쟁에서 이기고 중국을 물리치기 위해 할 수 있는 모든 일을 해야 함
  • 그들의 유토피아관은 아마도 다를 것임
• 나는 중국이 향후 25년 동안 중국 공산당이 그들 사회에 옳다고 생각하는 것을 강요하기 위해 천안문 광장 전술을 취할 수 있다고 의심함
  • 대조적으로 우리는 정치 프로세스를 거칠 것임
  • 민주적 가치가 전 세계적으로 승리하려면 우리는 AI에 신중하게 접근해야 하지만 AI 경쟁에서 지는 것을 감수해서는 안 됨
  • 그렇기 때문에 나는 시진핑 주석이 감독하는 중국의 제14차 5개년 계획이 AI와 5G 무선에서 승리하겠다는 의도를 명시적으로 선언한다고 믿음
  • 전자는 경제력을, 후자는 중국이 통신망과 TikTok을 통제함으로써 100여 개국의 모든 시민을 감시할 수 있게 함
  • 기술 리더십은 전시 동원(wartime mobilization)에 걸맞은 실존적 우선순위임
  • 미국 학자들과 철학자들이 우려하는 "얼라인먼트 제약"에서 자유로운 중국 봇이 서구 유권자들에게 은밀하게 개별적으로 영향을 미치는 것을 상상해 볼 것
  • 이러한 우발적, 공모적 위험에 대처하기 위해 우리는 안전 기술에 대한 연구와 투자를 대폭 늘려야 하지만 AI를 공격적으로 규제해서는 안 됨
• 인구통계학, 성장 둔화, 막대한 부채 부담으로 인해 향후 10년 내에 중국이 정점에 달할 것이라고 믿는다면, 우리는 중국이 승리하기 위해 더 절박해지고 쇠퇴기에 더 위험해질 것이라고 믿어야 함
  • 투키디데스의 함정과는 반대로 (신흥 무역 강국이 기존 구도를 흔들면 기존의 무역 강국과 신흥 무역 강국 간에 무력 충돌이 발생)
  • 그렇기 때문에 우리는 가설적 시나리오에 대해 토론하고 잘못된 우선순위의 규제로 진전을 늦추는 동안 그들의 자비에 의존해서는 안됨
• 우리는 AI가 인류를 파괴할 수 있는 자각력에 대해 걱정해야 할 수도 있지만 소행성이 지구를 강타하거나 전염병이 발생할 위험도 존재함
  • 그러나 중국이 우리 체제를 파괴할 위험이 내 의견으로는 훨씬 더 큼
  • 현재의 논쟁에서 비관론자들은 작은 위험에 초점을 맞추고 있으며, 가장 명백한 위험, 즉 AI 경쟁에서 악의적 행위자에게 지는 것은 서방에게 AI를 위험하게 만든다는 점에 초점을 맞추지 않고 있음
  • 아이러니하게도 AI와 민주주의를 침식하고 사회를 조작할 수 있는 AI의 능력을 두려워하는 사람들이 이 위험을 가장 두려워해야 함!

3. AI에 대한 유토피아적 견해

• 이 글을 쓰게 된 동기 중 하나는 AI 중심 세상에 대한 디스토피아적 비전을 불식시키는 것임
  • 대규모 실업, 부자는 더 부유해지고, 지적/육체적 전문성의 가치 하락, 인간 창의력의 상실 등 상상력이 결여된 인지적으로 게으른 비전임
  • 서구에서는 디스토피아에 대해 매우 왜곡된 시각을 가지고 있음
  • 디스토피아의 많은 저자들은 이미 현실의 고달픔과 생존의 위협에서 벗어나 상아탑에서 사변을 펼치는 사치를 누리고 있음
  • 예기치 못한 400달러의 지출도 감당하기 어려운 미국인 40%, 적절한 일차 의료서비스를 받지 못하는 1억 명의 미국인, 과도한 의료비 때문에 매년 파산하는 50만 명의 시민들을 언급하고 있음
• AI는 지구상의 모든 아이에게 거의 무료로 AI 튜터를, 모든 사람에게 거의 무료로 AI 의사 전문 지식을 제공할 수 있음
  • 종양 전문의부터 구조 엔지니어, 소프트웨어 엔지니어, 제품 설계자, 칩 설계자, 과학자에 이르기까지 거의 모든 종류의 전문 지식이 무료에 가까워질 것임
  • 마이크로프로세서는 휴대전화의 연산능력으로 판단할 때 대부분의 전자제품과 컴퓨팅을 거의 무료로 만들었음
  • AI는 모든 전문 지식을 거의 무료로, 대부분의 노동을 양족 로봇 등을 통해 매우 저렴하게, 금속에서 약품에 이르는 재료를 더 나은 과학 발견과 자원 발견을 통해 훨씬 더 저렴하게 만드는 등 마이크로프로세서보다 훨씬 더 많은 영역에 유사한 비용 절감을 적용할 것임
  • 또한 핵융합로의 플라즈마를 제어하고 자율 비행 항공기, 자율주행차량, 대중교통을 제어하여 모든 사람이 훨씬 더 저렴하고 접근하기 쉽게 만들 것임
  • AI는 모든 개인에게 일상적인 작업을 돕고, 개인 맞춤형 건강과 영양을 제공하며, 심지어 임원 지원까지 제공하는 개인 맞춤형 지능형 어시스턴트를 제공할 것임
  • AI 기반 도구는 일러스트레이션, 아이콘, 로고, 예술 작품을 생성하여 창작자의 작업 방식을 변화시킬 것임
  • AI 조종사 의사, 방사선 업무 및 진단을 자동화하는 AI, 미수금 관리 및 재무 모델링과 같은 작업을 자동화하는 AI 금융 애널리스트가 등장할 것임
  • AI는 계약서 작성, 비디오 게임 제작, 완전 자율주행 차량 운행을 지원할 것임
  • AI 조종사는 칩의 공식 검증에서 열 관리, 토목 공학, 실내 디자인에 이르기까지 모든 것에서 엔지니어를 지원할 것임
  • 자율주행 MRI에서 개인 맞춤형 오디오북에 이르기까지 우리는 기업가들이 상상할 수 있는 것으로만 제한됨
  • AI는 우리가 기업을 구축하는 방식조차 민주화할 것임
  • 예를 들어, 프로그래밍은 더 이상 컴퓨터 과학 분야에만 국한되지 않을 것임. 우리는 곧 복잡한 프로그래밍 언어 대신 자연어로 프로그래밍할 수 있게 되어 거의 10억 명의 프로그래머를 양성할 수 있기 때문

A. 효율성과 생산성 향상

• 나는 80%의 80%, 어쩌면 그 이상의 모든 일자리가 AI에 의해 수행될 수 있다고 추정함.
  • 일차 진료 의사, 정신과 의사, 영업 사원, 종양 전문의, 농장 노동자, 조립 라인 작업자, 구조 엔지니어, 칩 설계자 등 어떤 직업이든 가능함. 그리고 대부분의 경우 AI가 더 잘할 것임
  • 우리는 이미 AI가 단조롭고 반복적인 업무를 대신하여 인간이 더 창의적이고 전략적이며 보람 있는 일에 집중할 수 있게 해주는 초기 단계를 목격하고 있음
• 결국 우리는 인간으로서 어떤 일을 인간에게 할당하고 무엇을 스스로 선택할 것인지 결정하게 될 것임
  • 또한 AI 조종사가 인간이 가능한 것보다 더 나은 방식으로 테라바이트 단위의 데이터를 종합하는 것을 볼 수 있음
  • 전문 지식이 인간의 결과와 연결되는 곳이라면 어디든 AI는 인간보다 뛰어난 성과를 낼 수 있으며, 거의 무료에 가까운 가격으로 제공될 것임
  • 유방암 환자를 치료하는 종양 전문의를 예로 들면, 그들이 특정 유방암에 대한 최근 5,000편의 논문을 기억하는 것은 매우 어려울 것임
  • 로봇과 같은 구현된 지능은 다음 10년 동안 놀라운 새로운 능력의 벡터가 될 것임
  • 작업이나 직업이 AI에 의해 수행될 수 있다고 해서 모든 사회가 이를 허용하는 것은 아님
• 더 나아가 생각해 볼 만한 것은 전문 지식이 AI에 있는 사회에서 농장 노동에서부터 종양 전문의와 엔지니어에 이르기까지 모든 노동이 동등하게 평가될 것인가?
  • AI는 위대한 평등화의 도구가 될 것인가?
  • 그리고 이러한 소프트웨어와 하드웨어를 뒷받침하는 데 필요한 철, 구리, 리튬, 시멘트와 같은 천연자원과 물리적 투입물은 어떻게 될까?
  • 중국이 아프리카와 남미와 같은 자원이 풍부한 지역, 특히 중요한 광물 공급망을 장악하기 위해 전략적으로 움직이는 것을 목격하면서 혁신의 필요성이 분명해짐
• AI는 리튬, 코발트, 구리와 같은 천연자원을 발견하고 활용하는 방식을 변화시켜 우리의 자원 발견 능력이 소비를 앞지를 수 있게 할 것임
  • 현재의 도전은 자원의 부족이 아니라 자원을 찾는 우리의 능력에 한계가 있다는 것이며, AI는 이 장벽을 깨는 데 도움이 될 것임
• 또한 AI는 천연자원, 원자재 및 기타 자원의 사용을 최적화하여 낭비를 줄이고 농업, 제조업, 에너지 등 산업의 효율성을 개선할 수 있음
  • 이는 보다 지속 가능한 경제와 지구에 대한 더 나은 관리로 이어질 수 있음

B. 삶의 질 향상

• 우리의 물리적인 삶도 더 나은 방향으로 뒤바뀔 것임
  • 두발 로봇은 가사에서 노인 돌봄, 공장 조립 라인, 농장에 이르기까지 모든 수직적 영역을 변화시킬 수 있는 능력을 가지고 있음
  • 이것이 GDP, 생산성, 인간의 행복에 어떻게 급진적인 변화를 가져오고 사람들을 우리가 일자리라고 부르는 이러한 할당의 노예에서 해방시킬 것인지에 대해 준비하는 사람은 거의 없음
  • 이러한 로봇들은 그들이 대체하는 사람들을 부양할 수 있는 충분한 가치를 창출할 것임
  • 25년 후에는 10억 대의 두발 로봇(10년 후에는 100만 대)이 미세 조작을 포함한 다양한 작업을 수행할 수 있을 것임
  • 우리는 조립 라인 및 농장 노동자와 같은 하위 50%의 정말 바람직하지 않은 일자리에서 인간을 노예에서 해방시킬 수 있음
  • 이것은 자동차 산업보다 더 큰 산업이 될 수 있음. 그러나 삶에 대해 게으르고 방종한 접근 방식을 취하지 않는 것은 인간의 책임이 될 것임
• AI는 또한 우리 사이의 물리적 거리를 좁힐 수 있음
  • 우리는 대부분의 도시에서 자동차의 대부분을 AI 기반의 자율적이고 개인적인 신속한 교통 시스템과 마지막 1마일 자율주행차로 대체하여 기존 도로의 승객 수용 능력을 10배 늘릴 수 있음
  • 이는 자동차 산업을 극적으로 축소시키고 명목 GDP를 줄이는 한편, 지역 개인 교통을 훨씬 더 편리하고 빠르며 저렴하게 만들 것임
  • 우리의 물리적인 삶만 변화하는 것은 아님
• 곧 대부분의 소비자의 인터넷 접근은 소비자를 대신하여 행동하고 그들이 일상적인 작업을 효율적으로 관리하고 마케터와 봇을 막을 수 있도록 권한을 부여하는 에이전트가 될 수 있음
  • 소비자를 대표하는 수백억 개의 에이전트가 24시간 내내 실행되는 것은 놀랍지 않으며 현재 내 희망 사항임
  • 이것 또한 소비주의를 증가시키고 물건을 팔거나 사고방식을 왜곡하려고 시도하는 잘 짜여진 마케팅 기계에 맞서는 소비자에게 큰 평등화 도구가 될 것임
  • 그들은 자신의 이익을 보호하는 가장 똑똑한 AI를 가질 것임

C. 향상된 의료 서비스와 수명 연장

• AI는 개인의 유전적 구성, 생활 방식, 환경에 맞춘 치료를 통해 개인 맞춤형 의학을 가능하게 함으로써 의료 서비스를 혁신할 수 있음. 이는 더 나은 건강 결과와 더 오래 건강한 삶으로 이어질 수 있음
  • AI는 증상이 나타나기 전에 질병을 조기에 발견하는 데 사용될 수 있어 더 효과적이고 덜 침습적인 치료가 가능함. 이는 만성 질환의 부담을 크게 줄이고 전반적인 공중 보건을 개선할 수 있음
• 의료와 같은 서비스의 품질, 일관성, 접근성은 거의 무료가 되면서 개선될 것임
  • 정신 건강 관리 및 만성 질환 관리를 포함한 매우 광범위한 일차 진료가 전 세계적으로 기본적인 것이 될 뿐만 아니라, AI는 현재의 생명공학 기술을 보완하여 실제로 효과가 있고 오프타겟 효과를 최소화하며 전 세계적으로 확장 가능하고 저렴한 정밀 의약품을 만들 것임
  • 종양 전문의와 같은 더 전문화된 의사들은 최신 연구와 데이터에 대한 엄청난 양의 정보에 액세스할 수 있게 되어 인간 상대방보다 더 효과적이고 최신 정보를 제공할 수 있음
  • 인간의 개입이 필요할 가능성이 있고 AI는 환자의 선호도에 따라 언제 인간 의사를 불러야 하는지 알겠지만, 24시간 내내 운영되는 AI 종양 전문의는 훨씬 더 많은 접점을 제공하고 훨씬 더 많은 정보를 종합하고 결과를 모델링하여 진단 및 임상 과정에 대한 결정을 내릴 수 있게 되어 인간 의사들이 더 보람 있는 활동에 전념할 수 있게 될 것임. 이는 다른 전문 분야와 모든 종류의 만성 질환 관리 및 진단 검사에도 마찬가지로 적용됨
• AI 디스토피아에 대한 공포심은 매우 비효율적인 의료 시스템에서 진료받기 위해 고군분투하는 환자들로부터 나오는 것이 아님(비록 그들은 자신의 일자리에 대해 걱정하지만)
  • 1억 5천만 명의 미국인이 연방 정부가 지정한 정신 건강 전문가 부족 지역에 살고 있으며, 정신 질환을 가진 성인의 절반 이상이 치료를 받을 수 없음
  • 우리는 엘리트 학자들이 아니라 2800만 명의 개인들에게 다음과 같은 소식을 환영할지 물어봐야 함:
    • 영국에서 승인된 첫 번째 대형 언어 모델 AI 치료사들은 현재 NHS의 행동 건강 접수의 40%를 처리하고 있으며, 접수, 에스컬레이션, 진단 및 치료를 수행하는 AI로 회복에 대한 훨씬 더 우수한 결과를 보여주고 있음.
    • 시간이 지나면 이 추세는 거의 무료에 가까운 정신 건강 관리로 이어질 것임. 이것이 AI의 유토피아적 측면임 - 현재의 시스템으로 인한 많은 고통을 해결할 수 있는 오랫동안 기다려온 기술 혁명
• 기술을 통해 사회 기반 시설을 재구축(Reinventing Societal Infrastructure)하여 지구상의 79억 명의 사람들이 상위 10%의 가장 부유한 인간처럼 살 수 있도록 하는 것에 대한 나의 추측은 AI의 계속 확장되는 능력의 공개와 함께 이제 훨씬 더 달성 가능해 보임
  • 기본적인 일차 진료, 만성 질환 관리, 전문 진료(예: 심장학, 종양학, 근골격계 등)의 확대는 개발도상국에 사는 사람들의 건강을 개선하고 질병을 예방하는 데 필수적임
  • 전 세계 모든 아이가 이용할 수 있는 거의 무료에 가까운 24시간 내내 운영되는 의사는 우리가 계속해서 인간에 의존하여 의료 서비스를 제공한다면 불가능할 것임
  • 실제로 현재의 논쟁은 AI의 가장 두드러진 결과에 초점을 맞추지 못하고 있음: AI 혁명의 가장 큰 영향을 받을 사람들은 매일 생존을 위해 고군분투하는 지구 하위 절반에 해당하는 40억 명임
• 주로 이러한 이유로 상아탑의 학자들이 우리를 AI 유토피아로 향하는 길에서 퇴보시키려 할 때, 그것은 그들이 현실 세계와 얼마나 동떨어져 있는지를 말해줌
• 20년 전, 란셋 저널은 전 세계 아동 사망률의 90%를 차지하는 42개국에서 아동 사망의 63%가 더 효과적인 일차 진료를 통해 예방될 수 있다는 사실을 발견했는데, 이는 연간 600만 명의 생명에 해당함. AI는 이를 거의 무료로 만들 수 있음
  • 서구 국가에서는 설사, 폐렴, 홍역, 말라리아, 출생 전후 HIV/AIDS 전파와 같은 질병의 예방 가능성을 당연하게 여김
  • 충분한 수의 인간 일차 진료 의사가 세계의 덜 혜택받은 지역의 모든 아이에게 다가가 접점을 높이는 현실적인 방법은 없음
• 우리가 AI를 사회로 받아들이고 나아간다면, 내가 태어난 인도의 한 마을을 방문했을 때 내가 받는 진료의 질이 스탠포드의 지역 일차 진료 의사를 만났을 때보다 더 높을 것이라고 상상함. 인도의 마을은 미국의 기존 마찰 가능성을 고려할 때 AI를 더 빨리 채택할 것이기 때문임

D. 교육과 지식 확장

• AI는 각 학생의 요구, 속도, 지식의 격차, 관심사에 적응하는 개인 맞춤형 학습 경험을 만들어 모든 학습자에게 보다 효과적인 교육과 높은 성취 수준을 이끌어낼 수 있음
  • AI 기반 플랫폼은 지리적 위치나 경제적 지위에 관계없이 전 세계 사람들에게 고품질의 교육을 제공할 수 있음. 이는 지식을 민주화하고 전 세계 개인에게 힘을 실어줄 수 있음
  • 공립학교 구역 설정과 태어난 우편번호는 AI의 도움으로 또래 영향 문제를 해결할 수 있다면 한 사람의 인생 결과에 훨씬 덜 영향을 미칠 것임
• 전 세계적으로 AI는 지구상의 모든 아이를 위해 수많은 주제에 걸쳐 24시간 내내 이용 가능한 거의 무료에 가까운 개인교사를 제공할 수 있는 우리의 유일한 기회임
  • 이것이 기회를 열어주고, 대리권, 자기 효능감, 열정, 희망, 동기, 성 평등을 부여하는 데 미칠 수 있는 영향을 과대평가하기는 어려울 것임. 특히 그렇지 않으면 자원이 부족하고 이처럼 광범위하고 일관되며 접근 가능한 교육을 위한 인프라가 부족한 세계 일부 지역에 사는 사람들에게 더욱 그러함
  • "일할 필요"에서 해방된 사회에 대한 내 25년 이상의 비전과 결합된 AI 개인교사와 인간 멘토는 아이들에게 탐구하고 자신이 되는 자유를 줄 것임. 그것이 자유에 더 가까움

E. 환경 지속 가능성

• AI는 에너지 사용 최적화, 배출량 감소, 재생 에너지를 위한 새로운 기술 개발을 통해 기후 변화 문제 해결에 중요한 역할을 할 수 있음
  • AI는 환경 모니터링과 보존 노력에도 도움이 될 수 있음
  • AI는 환경에 미치는 영향을 줄이면서 식량 생산을 늘리는 더 스마트하고 효율적인 농업 관행으로 이어질 수 있어 지속 가능한 방식으로 증가하는 세계 인구를 먹여 살리는 데 도움이 될 수 있음
  • 하지만 이는 선형적 사고임. AI 과학자들은 우리 인간이 만들어낸 이 결정적인 문제에 대해 훨씬 더 혁신적인 접근 방식을 가능하게 할 수 있음
• AI 유토피아를 실현하기 위해서는 무제한의 저렴한 전력 생산을 위한 핵융합과 같은 보완 기술이 필요함
  • 올바른 정치적 분위기가 조성된다면 2050년까지 모든 석탄 및 천연가스 발전소를 대체할 수 있음
  • 나는 전체 핵융합 또는 원자력 발전소를 새로 건설하는 것보다는 석탄과 천연가스 보일러를 개조하고 대체하기 위한 핵융합 보일러에 베팅함
  • 청정하고 조절 가능한 전력을 위해 지열, 태양열, 첨단 배터리 시스템을 사용하는 유망한 노력도 있음
• 컴퓨팅의 환경적 비용을 줄이는 데는 여러 요인이 작용하고 있음
  • 알고리즘 효율성과 하드웨어 분야에서 상당한 개선이 이루어지고 있어 AI 시스템이 훨씬 적은 전력을 소비하면서 훨씬 더 많은 것을 달성할 수 있음
  • 웹 검색 기능의 새로운 기술과 통합은 에너지 소비를 급격히 늘리지 않고 AI가 더 효과적으로 확장할 수 있도록 도움
  • 이러한 최적화된 컴퓨팅을 위한 노력은 AI의 증가하는 에너지 수요를 지원할 뿐만 아니라 이 기술이 글로벌 인프라에 부담을 주지 않고 지속 가능하게 확장될 수 있도록 보장함
  • 그러나 우리는 이 문제에 대해 열심히 노력해야 하며 이는 실제 문제임

F. 인간 능력(및 창의성) 향상, 새로운 경험

• AI는 인간의 능력을 증강시켜 현재 인간의 지능만으로는 다루기 어려운 복잡한 문제를 해결할 수 있게 함
  • 이는 과학, 기술 및 기타 분야에서 지적 도전을 포함한 돌파구로 이어질 수 있음
• AI는 창의적인 파트너로서 예술가, 디자이너, 혁신가들이 새로운 아이디어를 탐구하고 예술, 과학, 기술에서 가능성의 경계를 넓히는 것을 도울 수 있음
  • 소비자 서비스는 초개인화되어 개인이 동시에 예술가, 작곡가, 프로듀서, 작가, 소비자가 될 수 있음
  • 예를 들어 음악은 게임처럼 상호작용할 수 있게 되고, 새로운 형식이 발견되고 활성화될 가능성이 있음
  • 이러한 미디어는 이미 쏟아지기 시작했으며, 경우에 따라서는 인간이 만든 것보다 더 큰 비중의 히트곡을 생성하고 있음
• 재능이 부족하거나 안정적인 경제적 미래에 대해 우려하거나 단순히 영화를 만들거나 노래를 작곡할 자원이 없어서 이전에는 많은 예술적 열망이 차단되었지만, 그러한 장애물은 점차 사라질 것임
  • 이는 유명 연예인이 사라질 것이라는 의미는 아니지만, AI 생성 예술은 음악의 인공적 기원을 감추는 복잡성과 깊은 질감을 제공할 것임
  • 어떤 사람들은 이것을 싫어할 것이고 다른 사람들은 좋아할 것임. 고전음악에서 헤비메탈에 이르기까지 오늘날의 음악 장르에도 마찬가지임
• 새로운 종류의 일자리가 생겨나고 새로운 창의성이 분출될 것임
  • 영화 카메라가 나오기 전에는 영화 제작자라는 직업이 없었음. 전체 산업이 폭발적으로 성장했음
  • 엔터테인먼트는 더 인기를 얻었고, 익스트림 스포츠는 X게임과 같이 많은 사람들에게 수입을 창출하는 직업이 되었음
  • 예를 들어 이전에는 직업이 아니었던 스노보드는 이제 그렇게 되었음
  • Etsy와 eBay와 같은 플랫폼은 전 세계 장인과 기업가를 촉진했으며, 새로운 기술은 완전히 새로운 세계의 직업을 가능하게 할 것임
  • Wattpad는 많은 새로운 창의적인 작가들을 가능하게 했고, Pinterest와 Tumblr와 같은 플랫폼은 사람들에게 그들의 창의력을 발휘할 수 있는 출구를 제공하여 그들의 취향과 개성에 대해 더 표현할 수 있게 했음

G. 윤리적 의사 결정 및 거버넌스

• AI는 공정한 의사 결정 프로세스를 보장하고, 편견을 줄이며, 거버넌스의 투명성을 촉진함으로써 보다 공정하고 평등한 사회를 만드는 데 도움이 될 수 있음
  • AI는 방대한 양의 데이터를 분석하여 근거 기반 정책 개발을 지원할 수 있어 보다 효과적이고 정보에 입각한 거버넌스로 이어질 수 있음
• 모든 시민을 위해 24시간 변호사를 둘 수 있게 되어 전문가를 10배로 늘리고 접근성과 적정성을 확대할 수 있음
  • 깊이 뿌리박힌 인간의 편견 없이 신속하게 분쟁을 해결할 수 있는 충분한 AI 판사가 있을 것임
  • 교육, 법률, 금융 자문은 더 이상 사회의 상류층을 위해 존재하지 않을 것임
  • 사실 이것들은 오늘날 도로와 국방이 그렇듯이 필수적이고 거의 무료인 정부 서비스가 될 것임

H. 인간의 번영과 행복

• 유토피아적 비전에서 AI는 사회적 초점을 경제 성장에서 인간의 행복과 성취로 전환하는 데 도움이 될 수 있음
  • 사람들이 일찍부터 자신을 진정으로 흥분시키는 것을 추구할 기회를 얻음에 따라 열정이 자연스럽게 생겨나는 세상을 상상해 보라
• 앞서 아동의 자유에 대해 설명했지만 좀 더 들어가보면
  • 6살 때부터 아이들에게 단지 직업을 얻기 위해서가 아니라 자신의 열정을 불태우기 위해 학교에서 뛰어날 필요가 없다고 가르치기 시작한다면, 40세에 이 대화를 시작하는 것과 비교할 때 그들의 발달하는 두뇌에 매우 다른 형성 경험을 만들어낼 것임
  • 상위 1% 또는 0.1%를 제외하고는 일반적으로 재정적 안정과 관련이 없는 시각 예술, 음악, 스포츠, 글쓰기 등과 같은 직업은 곧 생계를 유지하고 가족을 부양하는 오늘날의 제약에 구애받지 않고 그것을 추구하고 싶어 하는 누구에게나 만족스럽고 성취 가능한 것이 될 수 있음
• 이러한 변화는 인간이 된다는 것의 의미를 재정의할 수 있음
  • 더 이상 자신의 전체 존재를 규정하는 조립 라인 작업의 단조로움에 구속되지 않음
  • 내가 2000년에 제안했듯이 우리는 인간이 된다는 것의 정의 자체를 재고할 필요가 있을 수 있음
  • 결국 조립 라인에서 30년 동안 한 가지 유형의 바퀴를 자동차에 장착하는 것이 진정으로 보람 있는 일인가?
  • 그러한 일들은 화씨 100도의 열에서 농사일을 하는 것처럼 인간의 번영이 아니라 노예와 같은 형태를 나타냄
• 그러나 이것은 단순히 블루칼라 노동에 관한 것이 아님. 화이트칼라 일자리가 가장 먼저 사라질 수 있음
  • 예를 들어 투자 은행 업무를 보면 하루 16시간 동안 엑셀 스프레드시트나 파워포인트 자료를 해킹하고 똑같은 반복 작업을 하는 것이 만족스러운 일인가?
  • AI의 재정적 결과는 사람들을 이러한 제약에서 벗어나게 하여 진정으로 중요한 것, 즉 생존이나 주택, 식량, 가족을 위한 의약품과 같은 기본적인 것이 아니라 열정에 초점을 다시 맞출 수 있게 할 것임
• 바람직하지 않고 노동 집약적인 일자리를 근절한다고 해서 삶이 덜 의미 있어지는 것은 아님
  • 오히려 그 반대임
  • 이러한 기술에 적응하는 국가들의 경우 수십 년 내에 주당 40시간 일해야 할 필요성이 사라질 수 있기 때문에 삶은 더욱 의미 있어질 것임
  • 1920년 케인스는 주 15시간 노동을 가정했음!
  • 가능한 것을 상상해 보라. 우리에게 필요하거나 원하는 20%의 일을 제공하는 주 1일 근무
  • 나 자신은 69세의 나이에도 일주일에 하루는 정원일을 하고 나머지 시간은 배우는 데 보내는 것이 기쁠 것임
  • 마침내 스키, 하이킹 또는 내 많은 관심사에 몰두할 충분한 시간을 가질 수 있을 것임
• 바로 이러한 인간 경험을 재정의할 기회가 우리 삶에서 '인간다움'이 사라질 것이라는 비관론자들의 주장을 뒤집는 것임
  • 우리는 먼저 많은 사람들에게 자신과 가족을 위한 기본적인 것에 대한 필요성을 안겨주는 재정적 제약과 고려 사항을 제거함으로써 모든 인간에게 훨씬 더 많은 주체성, 자기 효능감, 희망을 부여하는 세상을 만들 수 있음
  • AI는 기본적인 생존의 부담을 제거함으로써 사람들이 자신에게 진정으로 중요한 것을 자유롭게 추구할 수 있는 세상을 만들 기회를 우리에게 제공함
  • 인간 노력의 주요 분야는 문화, 예술, 과학, 창의성, 철학, 실험, 탐험, 모든 종류의 경쟁, 모험이 될 수 있음
  • 진짜 질문은 모든 사람이 참여할 수 있을지 여부임

I. 우리의 유토피아에 대한 잠재적 장애물은 극복될 수 있음

• 물론 이러한 예측을 유토피아적 현실로 전환하는 데 많은 것이 방해가 될 수 있음
  • 기존 조직의 저항은 진전을 방해할 수 있음(예: 배우 조합)
  • 정치인들은 개인적 또는 대중주의적 이익을 위해 대중의 두려움을 이용할 수 있으며, 이는 저항을 더욱 부추길 수 있음
  • 또한 공급망 문제나 글로벌 분쟁으로 인해 악화될 수 있는 기술적 실패나 지연은 개발을 지연시킬 수 있음
  • 금융 시장도 위험 요소임. 경기 침체나 열악한 상황은 유망한 아이디어가 '너무 먼 다리의 틈'으로 묘사되는 자금 부족에 빠지게 할 수 있음
• 기술을 불신하는 사람들과 반대자들의 반대를 포함한 반기술 정서는 유익한 발전의 광범위한 채택을 방해할 수 있음
  • 이러한 정서는 현대판 러다이트의 우려와 일치할 수 있으며, 그들은 DEI 옹호자들과 함께 담론을 선점하여 기술의 잠재적 이점에서 초점을 돌릴 수 있음
  • 소수의 AI 관련 부정적 결과가 언론의 불균형적인 주목을 받아 AI에 대한 대중의 인식이 오염되면서 상황은 더욱 복잡해질 수 있음
  • 예측할 수 없고 비정상적인 '좌장' 이벤트는 흔하며 예기치 않게 진전을 방해할 수 있음
  • 마지막으로, 핵심 선동자와 옹호자가 등장하지 않거나 효과적으로 대의를 옹호하지 못하면 운동이 타격을 입을 수 있음
• 그러나 나는 AI 주도 유토피아가 단순히 낙관적인 가능성일 뿐만 아니라 올바른 사회적 선택과 기술 발전을 통해 매우 달성 가능한 확률이라는 확신을 견지함
  • 핵심은 AI의 잠재력을 책임감 있게 활용하고 그 혜택이 사회 전반에 공평하게 분배되도록 하는 것임
  • AI 지형의 윤곽이 계속 진화함에 따라 AI를 제공하고 그 이점을 통제하는 한 지배적인 기업은 없을 것 같음
  • AI 도구가 얼마나 접근 가능하고 사용자 친화적이 되었는지를 감안할 때 소수의 손에 AI 권력이 집중될 것이라는 우려는 가능성이 적음
  • 전문성과 자본이 진입 장벽을 높이는 산업과 달리 AI 개발은 점점 더 민주화되어 개인과 소규모 팀이 최소한의 자원으로 AI 시스템을 구축, 훈련 및 배포할 수 있음
• 오늘날 많은 클라우드 서비스는 특수 하드웨어나 막대한 재정 투자 없이도 대규모로 AI 모델을 훈련하는 데 필요한 인프라를 제공함
  • 그리고 소규모 업체의 새로운 연구는 오늘날의 LLM과는 근본적으로 다른 AI 개발 방식에 초점을 맞추고 있음
  • 최적의 개발 경로는 아직 나에게 분명하지 않음. 이들 중 상당수는 서로 보완적일 가능성이 높음
• 또한 로우 코드, 노 코드 및 자연어 플랫폼은 깊은 기술 전문 지식이 없는 사람들이 그 어느 때보다 쉽게 AI 솔루션을 만들고 배포할 수 있게 만들고 있음
  • 챗봇부터 기계 학습 모델에 이르기까지 이러한 플랫폼은 복잡성의 상당 부분을 추상화하여 평균적인 사람이 불과 몇 년 전보다 훨씬 짧은 시간에 AI 애플리케이션을 개발할 수 있게 함
  • AI 기반 API를 사용하면 누구나 프로그래밍에 대한 기본적인 이해만 있으면 최소한의 노력으로 강력한 AI를 자신의 앱, 도구 및 워크플로에 통합할 수 있음
• AI 개발을 위한 도구와 자원이 계속 더 접근하기 쉬워짐에 따라 단일 회사 또는 단체가 AI를 독점한다는 개념은 덜 실현 가능해짐
  • 대신 우리는 개별 기업가부터 지역 기업에 이르기까지 모든 사람에게 AI 개발이 개방되는 미래를 향해 나아가고 있으며, 이를 통해 혁신이 아래로부터 번성할 수 있음
  • 이러한 분산형 혁신 모델은 AI가 소수가 아닌 다수를 위한 도구로 남을 수 있도록 도울 것임

4. AI 세상의 새로운 경제

A. AI 시대의 자본주의와 민주주의

• 서구의 자본주의는 민주주의의 범위 내에서 작동하며 전통적으로 경제적 효율성을 위해 설계되었음
  • 자본주의는 경제 성장을 이루었지만 AI 시대에는 효율성에만 초점을 맞추어서는 안 되며 인간 행복에 있어 평등의 역할을 감안할 때 소득 격차 감소라는 목표를 동등하게 중요한 결과로 추가해야 함
• 전통적으로 경제 효율성의 엔진인 자본주의는 AI 주도의 변화에 직면하여 진화할 필요가 있을 수 있음
  • 전통적인 경제 효율성에 대한 필요성이 줄어들면서 우리는 효율성과 함께 공감 자본주의와 경제적 평등을 우선시할 여지가 생김
  • 자본주의는 민주주의의 허락에 의한 것임
  • 일정 수준 이상의 격차는 사회 불안으로 이어지므로 이를 염두에 두고 정책을 제정해야 함
  • 나는 사회 이동성을 위한 큰 기회가 있다는 전제 하에 어느 정도의 불평등(즉, "더 열심히 일할 동기")의 팬으로 자랐음
  • 우리의 삶을 의미 있게 개선할 수 있는 이러한 출구는 여전히 있어야 함
• 더 나아가 오늘날의 자본주의는 수요 창출 노력(즉, 광고 및 이에 상응하는 것)이 기업에 대한 경제적 효율성 이점을 초과하여 우리가 원하는 줄 몰랐던 것을 원하게 만드는 새로운 형태로 벗어났음.
  • 이는 사회적 안녕에 기여하지 않음
  • 우리는 현재의 자본주의 시스템을 개선하는 것이 전적으로 긍정적일 수 있는 시점에 와 있음
  • 아이러니하게도 이 기술을 최대한 수용하기로 결정한 사회는 - 모두가 똑같이 수용하는 것은 아니지만 - AI가 열어줄 풍요로움 덕분에 공감 자본주의를 실천할 수 있는 훨씬 더 큰 역량을 갖추게 될 것
• 시장의 손길이나 기술 발전을 늦추지 말고 오히려 많은 경우 인간 노동이 평가 절하될 수 있음을 깨달아야 함
  • 이는 저숙련 노동자와 심지어 많은 고숙련 노동자의 임금에 하방 압력을 가함
  • 인간 노동과 판단에 대한 필요성이 줄어들면서 노동은 자본에 비해, 그리고 아이디어와 기계 학습 기술에 비해 더욱 가치가 떨어질 것임
  • 풍요로움과 소득 격차 확대의 시대에, 2014년 AI에 관한 내 에세이에서 예측했듯이, 우리는 단순히 효율적인 생산에만 초점을 맞추는 것이 아니라 자본주의의 바람직하지 않은 부작용에 더 큰 우선 순위를 두는 자본주의의 한 버전이 필요할 수 있음

B. 임금 압축과 일자리 혼란, 생산성 향상이 함께 나타남

• AI가 기술 차이를 평준화함에 따라 임금이 압축될 수 있으며, 가치 창출은 창의성, 혁신 또는 AI 소유권으로 이동할 수 있어 잠재적으로 다른 경제적 불평등으로 이어질 수 있음
  • 역사적으로 생산성 향상은 더 높은 임금과 소비자 지출 증가로 이어졌지만, AI 기술은 내가 예측한 80%의 일자리에서 80%의 일을 인간으로부터 분리할 수 있는 능력을 감안할 때 그런 일이 일어나지 않을 수 있음을 인정함
• 같은 맥락에서 우리는 단순히 과거의 경제 역사를 외삽할 수는 없는데, 이는 각 기술 혁명에서 새로운 일자리 기회가 손실을 앞질렀다고 설교하기 때문임
  • 누군가 말했듯이 "역사의 기차가 커브를 칠 때 지식인들은 떨어져 나간다"
  • 나는 이번에는 인간 능력을 증강시킬 뿐만 아니라 전반적으로 능가할 수 있는 기술로 인해 일자리 창출의 기본 동인이 변화하기 때문에 상황이 다를 수 있다고 주장함
  • 우리는 이전에 큰 전환을 보았지만 이렇게 빠르게는 결코 보지 못했기 때문에 적응이 훨씬 더 어려운 문제가 됨
    • 1900년 미국의 일자리 대부분은 농업 분야였음
    • 1970년까지 그것은 4%였음
    • 그러나 그것은 3세대가 걸렸음
    • 이 AI 사이클은 훨씬 더 빠를 것임. 따라서 더 혼란스럽고 불편할 것임
• 인공지능은 많은 직업을 없애고 사람들이 시간을 보내는 방식에 대한 사회적 재고를 요구하면서 노동력에 지각 변동을 일으킬 가능성이 높음
  • 사회 전체가 개선되더라도 변화는 경제의 일부 사람들에게 더 심각한 타격을 줄 수 있음
  • 이는 가장 영향을 받는 사람들에게 쉽게 받아들여지기 어려울 것임
  • 10-25년의 전환기는 매우 혼란스러울 수 있음
  • 그러나 그것은 두려움에서 행동하고 궁극적으로 일의 제약에서 벗어나고 현재 그렇게 적은 사람들이 누리는 자원에 더 많이 접근할 수 있는 세상의 혜택을 거두지 못하는 이유는 결코 아님
  • 영향을 받는 사람들을 돌보는 방법을 진지하게 고려할 때임
• 전문가 역량을 몇 배나 더 제공하여 접근성뿐만 아니라 품질도 높이면서 이전에 그러한 직책에 있었던 사람들의 일자리 손실로 이어질 수 있음
  • AI 기반 로봇공학은 수작업 집약적 일자리에서도 같은 일을 할 수 있고 할 것임
  • 다양한 수직 분야에서 디자이너와 건축가를 지원하는 AI 도구는 산출량과 생산성을 비슷하게 증가시켜 인간이 필요한 수가 줄어들 것임. 아마도 향후 10-25년 기간 내에 자율적으로 직무를 인수하기 전까지 말임
• 백만 명의 의사가 각각 30만 달러를 벌면 미국에서만 3천억 달러의 비용이 발생
  • 아마도 전 세계적으로 그 10배일 것임. 수조 달러임.
  • 아마도 3천억 달러의 지출은 동일하게 유지되겠지만 향후 10-20년 동안 10배의 서비스를 제공할 것임
  • 회계사를 보면 같은 종류의 숫자에 도달할 수 있음. 수조 달러가 소비되지만 회계 서비스에 대한 수요가 10배 증가할 것 같지는 않음
  • 전문 분야마다 공급 증가와 소비 증가 사이에 다르게 반응할 것임
  • AI가 많은 인력을 지원/대체하면 이러한 절감액은 소비자에게 흘러갈 것임. 분야별로 공급과 수요의 균형을 맞춰야 할 것임
  • 미국에서 의료, 식량, 주택에 대한 수요는 증가할 수 있지만 10배까지는 아닐 것임
  • 음악과 엔터테인먼트는 수요 증가에 거의 제한이 없겠지만 음악가나 스포츠 연기자 등의 유명인 엔터테인먼트를 제외하고는 거의 무료일 것임
• 생산성은 평균 소득을 증가시키는 동시에 중위 소득과 지니 계수(소득 분포를 나타내기 위한 통계적 분산 측정)를 모두 감소시킬 수 있음
  • 아이러니하게도 미국과 같은 선진국 시민들은 소득 격차가 확대될 수 있음에도 불구하고 더 높은 생활 수준을 가질 수 있음
  • 그러나 이는 상당 부분 선출직 공무원들이 취하는 정책 접근 방식에 달려 있을 것임
  • 직업을 위해 훈련하는 것이 아니라 직업과 같은 "목적" 대신 그 자체의 장점을 위해 지적 추구를 하기 위해 더 광범위한 교육이 필요할 수 있음

C. 디플레이션과 새로운 경제 측정 지표의 필요성

• 투입 감소(즉, 노동 비용 감소)와 경쟁 증가로 인한 생산성 향상은 앞서 언급한 일자리 손실과 함께 디플레이션을 촉발할 수 있음
  • 반대로 이러한 새로운 역학은 지출이 제한된 기업에서 낮은 비용을 활용하기 위한 고용을 증가시킬 수 있음
  • 노동력과 전문 지식을 넘어, AI를 자원 발견, 연구 등에 사용함에 따라 타임라인과 비용이 줄어들어 디플레이션 압력이 가중될 수 있음
  • 물론 소비자 행동, 기업 투자 결정, 중앙은행 대응, 분야별 변동성 등 추가적인 뉘앙스가 있음
  • 그러나 AI가 GDP의 모든 수직을 건드릴 가능성이 있지만 시간 프레임은 다르기 때문에 경제 전체에 미칠 수 있는 영향을 과대평가하기는 어려울 것이며, 이 새로운 시대에 통화정책이 역사적으로 그랬던 것만큼 강력한 지렛대가 될 것 같지는 않음
  • 통화 정책은 경제에 점진적인 변화를 일으키기 위해 작동해 왔고 정제되어 왔음
  • 한계 경제 변화가 한계 행동 변화를 주도하는 것은 더 이상 적용되지 않을 수 있음
  • 바람에 대한 반응은 태풍에 대한 반응과 다르고, 파도에 대한 반응은 쓰나미에 대한 반응과 다름
• 블루칼라와 화이트칼라 분야에서의 AI 주도 효율성은 디플레이션과 일자리 손실로 이어질 수 있으며, 이 둘 모두 완화될 수 있음
  • '디플레이션'은 만성적으로 하락하는 가격이 일반적으로 기업의 수익성 감소와 경제 성장의 정체 또는 심지어 축소로 이어지기 때문에 부정적인 가치를 가짐
  • 반대로 AI 주도 디플레이션 성장은 위에서 설명한 모든 이유로 상품 및 서비스 소비 증가(즉, 소비자 지출 능력 효과적 증가)와 동시에 발생할 가능성이 높음
  • 시민들이 소비하는 상품과 서비스의 수가 급격히 증가한다면 그것이 반드시 나쁜 것인가? 우리의 언어는 GDP 성장과 기업 이익을 번영과 동일시함. 이는 우리 현재 어휘의 버그임
• 노동 비용이나 자본 비용은 자본이득세나 MLP와 같은 단순한 규칙, 규제, 법률, 세금 전략의 변화에 의해 효과적으로 변경될 수 있음
  • 이러한 편견 중 상당수는 오늘날 겉보기에는 중립적인 자본주의 경제에 내재되어 있음
  • 합리적인 소득 격차 목표를 달성하기 위해서는 더 많고 중요한 조작이 필요할 것임
  • 소득이나 사회 이동성은 사회의 "규칙"에 설계하기가 훨씬 더 어려운 목표임
  • 전통적인 노동 대 자본의 경제 논쟁이 많은 경제학자들이 적절히 신용하지 않는 새로운 요인인 기업가 정신과 지식에 의해 주도되는 아이디어 경제에 의해 뒤집힘에 따라 상황은 더욱 복잡해질 것으로 생각함
  • 이 마지막 요인은 노동이나 자본보다 경제의 더 중요한 동인이 될 수 있음
  • 리튬, 구리, 철강 등 물리적 자원과 같은 일부 생산 요소는 변화에 적응하는 데 다른 요소보다 훨씬 더 오랜 시간이 걸릴 수 있음

D. 정책적 선택

• 컴퓨터 능력의 이러한 새로운 양자 도약은 소득 격차와 풍요로움을 동시에 증가시킬 가능성이 높음
  • 이번에는 기술 진화가 정말 다를 수 있는데, 이는 처음으로 생산성 향상이 아니라 인간 지능을 능가하기 때문임
  • 이러한 시나리오가 실현된다면 우리 사회의 목표가 무엇이든 공정성을 최적화하기 위해 사회 및 정치 시스템에 구조적 변화를 가할 필요가 있음
  • 민주적 과정은 이러한 의사 결정에 이상적임. 특히 모든 사람이 같은 목표를 추구할 필요는 없기 때문임
• 우리는 선택에 직면해 있음: 파괴적 기술의 채택을 가속화, 둔화 또는 조절하고 예를 들어 경제적 지원을 통해 대체된 사람들에게 보상할지 여부를 결정함
  • 변화의 역학은 혼란을 겪는 사람들에게 고통스러울 수 있으며, AI와 그 모든 장점을 효과적으로 수용하기 위해서는 대체되는 사람들을 국가 정책 노력의 중심에 두는 것이 핵심이 될 것임
  • 경제 정책은 오늘날 미국 연방준비제도가 하는 것처럼 경제 성장 조정뿐만 아니라 격차와 사회 이동성의 지렛대와 완화 요인도 염두에 두어야 함
  • 나는 사과할 줄 모르는 자본가이자 기술 낙관주의자로서 AI 시스템의 지속적이고 신속한 지원과 배포를 지지함
  • 우리는 기술 발전을 늦추기보다는 그것이 가져오는 변화에 적응해야 하며, 여기에는 인간 노동의 잠재적 가치 하락도 포함됨
  • 이러한 변화는 상당한 도전을 제기하지만 25년 이상의 기간 동안 보다 공감하는 사회와 자원 제약 이후의 세계를 만들 기회도 제공함
  • 우리는 우리가 살고 있는 사회와 우리가 만드는 미래에 대해 신중해야 하며, 훨씬 더 공감적으로 정책을 만들어야 함. 이는 과거에는 감당할 수 없었던 사치지만 이제 우리가 사용할 수 있게 되었음
• 인간 능력을 초월하는 기술의 더 큰 부작용을 해결하기 위해서는 국가(및 국제) 수준에서의 구조적 변화가 아마도 장기적으로 필요할 것임
  • 경제 정책은 오늘날 미국 연방준비제도가 하는 것처럼 경제 성장 조정뿐만 아니라 격차와 사회 이동성의 편견에 의해 주도되어야 함
  • AI 적응에 대해 국가들이 다른 접근 방식을 취하는 글로벌 맥락에서 상대적 경제력의 극적인 변화가 있을 가능성이 있음
• AI가 인간 노동의 필요성을 줄임에 따라 정부가 AI의 영향을 규제하고 공평한 부의 분배를 보장하는 데 핵심적인 역할을 하면서 UBI(Universal Basic Income)가 중요해질 수 있음
  • AI가 노동 비용을 줄이고 생산성을 높임에 따라 부의 분배와 사회 복지 유지에 있어 정부 규제의 역할이 중요할 것임
• 앞으로 대규모 생산성 향상과 향후 50년 동안 연간 GDP 성장률이 2%에서 4-6%로 증가할 가능성을 감안할 때, 1인당 GDP는 약 100만 달러에 도달할 수 있음(50년 동안 연간 5% 성장 가정)
  • 디플레이션 경제는 현재의 명목 달러를 훨씬 더 멀리 나아가게 함
  • 나는 UBI를 감당할 수 있는 충분한 자원과 풍요로움이 있을 것이라고 믿음
  • 오늘날 UBI는 경제적 제약으로 인해 비현실적으로 보일 수 있으며, 실제로 이러한 제약을 무시하는 것은 아르헨티나와 베네수엘라와 같은 국가에서 재앙으로 이어졌음. 그러나 그러한 제약은 점차 줄어들 것임
• 과감하거나 돌이킬 수 없는 국가적 규모의 특정 해결책이나 조기 행동을 권고하는 데 있어 주의가 필요함
  • 토론과 논의가 분명히 필요함. 소득 격차 확대로 인해 피해를 입은 사람들을 위한 포인트 솔루션을 찾아야 함
  • 우리는 변화를 면밀히 지켜보고 이번 10년 동안 지속적으로 작은 정책 변화를 만들어야 함
  • 강력한 AI 기술 발전에도 불구하고 실제 영향과 채택은 지수 곡선의 평평한 부분과 마찬가지로 더 느릴 수 있음

E. 소비자 유토피아 상상하기

• 지난 20-30년 동안 서방에서 중국의 디플레이션 효과와 흥미로운 유사점이 있음
  • 노동력의 해외 이동은 수천만 개의 국내 제조업 일자리 손실로 이어졌지만, 생계가 뒤바뀐 사람들의 기술 향상이나 돌봄에 중점을 둔 정책은 거의 없었음
  • AI와 컴퓨터 비전을 통해 우리는 상품 가격을 인상하지 않으면서 제조업을 국내로 귀환시켜 중국과 같은 국가의 저비용 노동력에서 벗어날 기회를 갖게 되었으며, 동시에 대체될 사람들을 위한 생산적인 정책 고려에 참여하고 있음
  • 중국의 디플레이션 영향은 일자리가 해외로 이동함에 따라 미국에서 소비자 지출 능력 감소와 함께 왔음
  • 반대로 AI 주도 디플레이션 성장은 위에서 설명한 모든 이유로 상품 및 서비스 소비 증가(즉, 소비자 지출 능력 효과적 증가)와 동시에 발생할 가능성이 높음. 이러한 변화의 역학을 예측하기는 어려울 것임
• 주택, 에너지, 의료, 식품, 운송이 모두 기계에 의해 거의 무료로 제공되거나 문 앞에 배달되는 세상을 상상해 보라. 그 분야에는 일자리가 하나도 남아 있지 않음
  • 그 세계의 주요 특징은 무엇이며 그 안에서 살면 어떨까? 일단 그것은 소비자 유토피아임. 모든 사람이 왕과 교황만이 꿈꿀 수 있었던 생활 수준을 누림
  • 나는 미래의 유토피아 사회에서 특정 수준의 생활비가 더 낮아져 오늘날 연간 4만 달러를 버는 개인이 오늘날 연간 30만 달러를 버는 사람보다 실질적으로 더 많이 살 수 있을 것이라고 생각함
  • 다행히도 기술은 지난 10년 또는 20년 동안 중국으로 아웃소싱했던 것보다 상품과 서비스에 훨씬 더 디플레이션적일 것임
  • 그러나 내 진정한 희망은 상품과 서비스가 풍부해짐에 따라 우리 시민들이 더 많은 소비보다는 무엇이 그들에게 더 많은 행복을 주는지에 초점을 맞추기 시작하고 소비가 지위의 상징이 되는 것이 줄어드는 것임

F. 회사 vs. 국가

• AI 세상에서 이러한 기술을 통제하는 기술 CEO는 전 세계 고용, 경제 구조, 심지어 부의 분배에 대해 전례 없는 영향력을 행사할 수 있음
• 그들의 플랫폼은 일상생활의 많은 측면에서 전통적인 정부의 역할을 능가할 가능성이 있는 업무, 교육 및 사회적 상호 작용의 주요 중재자가 될 수 있음
• 비평가들은 이러한 경영진이 많은 국가와 맞먹거나 능가하는 영향력을 행사한다고 주장함. 그들은 공공 담론을 형성하고, 선거에 영향을 미치며, 심지어 지정학에 영향을 미칠 수 있는 기술 플랫폼의 능력을 이 과도한 권력의 증거로 제시함
• 그러나 이러한 우려는 흥미로운 질문을 제기하며, 나는 부상하고 극대화된 중국과 우리의 더 자유로운 사회와 경제 사이의 강제 선택이라는 이전 프레임워크로 돌아감
• 우리는 왜 시진핑과 같은 선출되지 않은 지도자의 세계적 영향력보다 기술 CEO의 영향력에 더 편안해야 할까? 어떤 기술 CEO도 지배적 이해관계나 심지어 실질적 이해관계를 소유할 가능성은 없으며 그들은 주주와 이사회에 보고해야 할 것임
• 둘 다 직접적인 민주적 책임 없이 엄청난 권력을 휘두르지만 그들의 인센티브 구조에는 중요한 차이가 있음
• 기술 CEO는 모든 결점에도 불구하고 궁극적으로 사용자, 고객 및 주주의 지속적인 지지와 참여에 의존함. 그들은 어느 정도 시장의 힘과 여론에 반응하여 자신의 지위를 유지해야 함
• 반대로 시진핑과 같은 권위주의 지도자는 공공 정서를 무시하고 국가 기구를 이용하여 반대 의견을 억압하고 통제력을 유지함
• 이러한 역학은 기술 CEO의 권력이 분명히 우려스럽고 면밀한 조사가 필요하지만 글로벌 이해 관계자에 대한 대응 측면에서 무분별한 권위주의 권력보다 선호할 수 있음을 시사함

5. 우리는 원하는 미래를 만들 수 있음

• 일어날 미래는 우리 사회가 이 강력한 도구를 이끌기로 결정한 미래가 될 것임
  • 그것은 일련의 정책 선택이 될 것이며 기술 선택이 아닐 것이고 국가마다 다를 것임
  • 어떤 사람들은 그것을 이용할 것이고 어떤 사람들은 그렇지 않을 것임
  • 개인 수준과 사회적 선택이 무엇이 되어야 할까?
  • 우리의 기본적인 욕구가 충족되었기 때문에, 모든 인간의 시간, 노동, 에너지, 야망, 목표는 무형의 것으로 Reorient됨:
    • 큰 질문, 깊은 욕구. 인간의 본성은 역사상 처음으로 완전히 표현됨.
    • 물리적인 필요의 제약이 없으면 우리는 우리가 원하는 대로 될 것임
  • GDP 증가는 우리를 '풍요로운' 사회로 이끌 것이며, 그곳에서 우리는 일과의 기본적인 관계를 재정의해야 함
  • 그리고 전통적인 GDP 측정치는 점점 더 부정확한 인간 진보의 척도가 되기 시작할 것임
  • 그리고 우리가 내리는 정책과 사회적 선택에 따라 큰 경로 의존성이 있을 것임
• 가장 중요한 것은 7억 명(10%)만이 누리는 풍요로운 삶을 전 세계 79억 시민 모두에게 전하겠다는 원대한 야망이 마침내 손에 잡힐 듯한 거리에 있다는 것임
  • AI 없이 에너지, 자원, 의료, 교통, 기업, 전문 서비스를 10배로 확장하는 것은 분명히 불가능할 것임. 그것은 필요한 힘의 승수이자 가장 운이 좋은 사람들이 현재 누리고 있는 것을 확장할 수 있는 유일한 도구임
  • AI는 필요하지만 충분하지는 않음
  • 수반되는 사회적, 정치적, 경제적 전환에 유리한 조건을 만드는 정책이 필요함
• AI는 핵이나 생명공학과 같은 이전의 강력한 기술 도구와 마찬가지로 선한 목적이나 나쁜 목적으로 사용될 수 있는 강력한 도구임
  • 우리가 신중하게 선택하고 기술이 아닌 사회의 선택에 따라 "가능한" 세계를 구축하는 데 사용하는 것이 반드시 필요함
    미지에 대한 두려움 때문에 혜택을 포기하지 말아야 함
• 나는 기술 가능주의자, 기술 낙관주의자이지만 신중하고 배려하는 마음으로 기술을 사용하는 것임
  • "No wine before its time(적절한 때가 되기 전에는 와인을 팔지 않겠다는 광고 문구)"라는 말처럼 규제는 필요하지만 시기상조 규제는 없어야 함
  • 2000년 뉴욕 타임즈와의 인터뷰에서 내 말을 되돌아보면, 우리는 인간이 된다는 것의 의미를 재정의해야 할 것임
  • 이 새로운 정의는 일이나 생산성에 대한 필요성이 아니라 열정, 상상력, 관계에 초점을 맞추어 인간성에 대한 개인적 해석을 허용해야 함

[savvykang]

필자가 AI의 사회 변혁 가능성에만 집중하고 변화의 필요 조건을 모두 고려하지는 않아서 전체적으로 동의하기 힘든 글입니다.

---

AI는 지구상의 모든 아이에게 거의 무료로 AI 튜터를, 모든 사람에게 거의 무료로 AI 의사 전문 지식을 제공할 수 있음

결국 우리는 인간으로서 어떤 일을 인간에게 할당하고 무엇을 스스로 선택할 것인지 결정하게 될 것임

의학의 본질은 단순 의학지식 제공에서 그치는 것이 아니라 치료 방법간의 효율성과 위험성, 예후 등의 증거와 상황을 고려하여 의사결정을 하는 것에 있다고 생각합니다. 전문가 시스템이 일반 대중의 신뢰를 얻기까지는 낙관론 대신 수많은 근거와 실패 사례, 경험칙들이 축적되어야 할 것입니다

---

AI는 또한 우리 사이의 물리적 거리를 좁힐 수 있음

우리는 대부분의 도시에서 자동차의 대부분을 AI 기반의 자율적이고 개인적인 신속한 교통 시스템과 마지막 1마일 자율주행차로 대체하여 기존 도로의 승객 수용 능력을 10배 늘릴 수 있음

물리적 거리가 한 번 더 좁아지기 위해서는 교통수단의 발달 뿐만 아니라 발전한 이동수단에 따른 도시계획과 도로망의 변경이 이루어져야 합니다. 유럽과 미국의 대도시들이 초기 도시계획에서 크게 벗어나지 못하고 설립당시의 도로망을 그대로 사용하고 있는 것을 보면 교통수단이 발전하는 것 만으로는 모든 대도시의 물리적 거리를 좁힐 수 없습니다. 이미 조성된 도시가 변화하는 것은 막대한 재정적 부담과 불확실성을 극복해야 하므로 가능성이 낮고, 새로 생겨나는 도시가 교통수단 발달의 혜택을 누리게 될 것입니다

---

• 20년 전, 란셋 저널은 전 세계 아동 사망률의 90%를 차지하는 42개국에서 아동 사망의 63%가 더 효과적인 일차 진료를 통해 예방될 수 있다는 사실을 발견했는데, 이는 연간 600만 명의 생명에 해당함. AI는 이를 거의 무료로 만들 수 있음

  • 서구 국가에서는 설사, 폐렴, 홍역, 말라리아, 출생 전후 HIV/AIDS 전파와 같은 질병의 예방 가능성을 당연하게 여김
  • 충분한 수의 인간 일차 진료 의사가 세계의 덜 혜택받은 지역의 모든 아이에게 다가가 접점을 높이는 현실적인 방법은 없음

전염병은 의료 접근성 개선 뿐만이 아닌 공중보건과 위생 개선이 동시에 이루어져야 하고 이는 상하수도 시설과 같은 행정 서비스가 병행되어야 예방할 수 있습니다

---

AI는 공정한 의사 결정 프로세스를 보장하고, 편견을 줄이며, 거버넌스의 투명성을 촉진함으로써 보다 공정하고 평등한 사회를 만드는 데 도움이 될 수 있음

AI는 인지 편향이나 편견, 갈등, 기회의 평등, 부의 재분배같은 심리와 가치판단의 문제를 대신 해결할 수 없습니다.

---

또한 로우 코드, 노 코드 및 자연어 플랫폼은 깊은 기술 전문 지식이 없는 사람들이 그 어느 때보다 쉽게 AI 솔루션을 만들고 배포할 수 있게 만들고 있음

로우코드 플랫폼은 작업을 시작하기는 쉽지만 요구사항이 추가되고 의존성이 복잡해질 수록 효율적이고 완성도 있는 결과물을 만들어내기 어렵습니다

---

노동 비용이나 자본 비용은 자본이득세나 MLP와 같은 단순한 규칙, 규제, 법률, 세금 전략의 변화에 의해 효과적으로 변경될 수 있음

모든 정치인들과 정책 입안자들이 필자의 주장과 같이 생각하고 정책을 실행할 가능성은 매우 낮습니다

---

• 그들(기술 CEO)의 플랫폼은 일상생활의 많은 측면에서 전통적인 정부의 역할을 능가할 가능성이 있는 업무, 교육 및 사회적 상호 작용의 주요 중재자가 될 수 있음
• 그러나 이러한 우려는 흥미로운 질문을 제기하며, 나는 부상하고 극대화된 중국과 우리의 더 자유로운 사회와 경제 사이의 강제 선택이라는 이전 프레임워크로 돌아감
• 기술 CEO는 모든 결점에도 불구하고 궁극적으로 사용자, 고객 및 주주의 지속적인 지지와 참여에 의존함

미국 빅테크 기업의 파급력에 대한 EU의 제재, 그 적절성에 대한 논의는 현재 진행형이며 중국의 전체주의 정부와 아무런 상관이 없습니다.

[xguru]

왠지 샘 알트먼의 지능의 시대 (The Intelligence Age) 하고 비교하게 되는 글이네요.
그냥 잘될꺼에요 라고 말 하는 것보다 다양한 사례를 들어서 설명하는게 좋았어요.
생각 못해봤던 관점들이 이야기 되어서 많은 영감을 받았습니다.

코슬라 벤처스는 창업자들이 뽑은 최고의 VC 로 평가 받고 있습니다. https://www.founderschoicevc.com/

[nowdoit7]

샘 알트먼의 글은 무작정 잘될껍니다라는 약팔이에 가깝다면, 이 글에선 다양한 생각할것들이 있어서 좋았습니다.

지금이야 인간이 AI의 주종의 관계로 형성하고 있지만, 오늘처럼 쳇 GPT가 작동을 안할때 답답함을 느끼는 걸 보면 AI가 주인지 종인지 햇갈리게 되네요.

그리고, AI회사들이 당연히 막대한 금권과 정치적인 파워를 누르게 될텐데 사회의 합의하에 유토피아로 가기엔 어마어마한 사회 비용이 발생할 것 같습니다.

그리고 모든 인간이 윤리적이고 착하면 좋겠지만 인간 시대엔 그런 경우가 드물었던 과거를 생각하면, 대변혁의 앞에서 초라하게 서있는 한인간이 된거 같아서 슬프네요.

[lcanon]

역시나 기후에 대한 언급은 없네요. 또한 선출되지 않은 지도자 운운하면서 정작 "밍듀듀의"적으로 다수가 동의하지도 않은 기술을 사회에 사실상 강요하는건 왜 정당화 되는지도 궁금하구요.

[garangb]

"민주주의가 AI를 길들일 수 있다"는 세계 정부나 유효한 국제법이 부재한 이상 보장된 명제가 아니라고 생각되네요. 각 국가는 타국 대비 AI 산업의 경쟁력을 위해 규제를 강하게 매길 수 없고, M7 같은 국제 기업들은 "혁신", "공리"를 내세우며 계속 규제에 맞설 것이며 정치적 양극화는 우리가 제때 AI를 적절한 시점에 길들일 수 있도록 힘을 모으는 것을 방해할 것입니다.

[readiz]

저는 재밌게 읽었습니다. 맞고 틀리고의 관점에서 볼 글은 아닌거 같아요. 필자의 관점일 뿐이니..

[kraker]

기업으로 부의 쏠림에 대한 내용은 정책으로 해결가능
요 부분이 너무 꽃밭느낌이네요
정책은 언제나 후행했는데 이 빠르고 막대한 변화를 사회가 어떻게 받아낼수있을지가 걱정됩니다.

[kraker]

• 기술 발전 속도가 너무 빠르다.
  -정책 결정 과정은 복잡하고 시간이 오래 걸린다.
• 미래를 예측하기 어렵다.
• 기존 이해관계와의 충돌은 필연적이다

[koreaisbest]

인간이 필요가 없는데 왜 봉사를 하죠? 라고 생각하지 않을까 인간을 만든 신이 인간보다 뛰어날 거라는 환상과 같지 않을까요