▲

AI의 주요 가치는 R&D보다 광범위한 자동화에서 발생함

 (epoch.ai)
8P by GN⁺ 8일전 | ★ favorite | 댓글 2개
  • 일반적으로 AI의 경제적 가치는 연구 및 개발(R&D) 자동화를 통해 창출될 것이라는 관점이 널리 퍼져 있음
    • Dario Amodei는 AI가 생물학, 신경과학, 경제학 R&D에 긍정적인 영향을 줄 것이라고 주장함
    • Demis Hassabis는 AI가 모든 질병을 치료하고 에너지 문제를 해결하는 등 R&D를 통해 사회에 기여할 것이라고 설명함
    • Sam Altman은 AI가 반도체처럼 모든 산업에 영향을 줄 수 있지만, 과학적 진보에 미치는 영향이 가장 클 것이라고 언급함
  • R&D가 장기적인 경제 성장에 기여하지만, 그 기여도가 과대평가됨
    • 미국 노동 통계국(BLS)에 따르면 민간 R&D 지출은 1988~2022년 동안 총 요인 생산성(TFP) 성장률의 0.2%/년에 불과함
    • 공공 R&D 지출은 전체 R&D 지출의 약 25%를 차지하며, 총 TFP 성장에 대한 R&D의 기여도는 약 0.4%/년임
    • 노동 생산성 성장의 약 20% 만이 R&D에 의해 발생하며, 나머지는 자본 축적, 관리 개선, 학습 효과 등에 기인함
  • R&D 작업의 대부분은 단순한 논리적 추론이 아닌 복합적 능력을 요구함
    • 예: 에이전시, 멀티모달 처리 능력, 장기적 일관성 등
  • 연구자 업무를 완전 자동화할 수 있을 정도의 AI 능력은 대부분의 다른 경제 부문에서도 자동화가 가능하다는 것을 의미함 → 더 큰 경제적 가치 창출 가능

AI의 주요 경제적 가치는 광범위한 노동 자동화에서 발생할 것

  • AI의 경제적 가치에 대한 두 가지 주장
    • ✅ R&D 자동화가 연간 경제 성장률을 몇 퍼센트 이상 높일 수 있다
      • 기술이 R&D를 완전히 자동화할 수 있다면 상당한 경제적 가치 창출 가능
      • 경제 성장에 의미 있는 기여 가능성 높음
    • ❌ AI의 가장 큰 경제적 가치는 R&D 자동화에서 발생할 것이다
      • R&D는 가치 있지만, AI의 경제적 성장 동력의 핵심이 되지는 않을 것
      • AI가 인간 성능을 초과한 이후에도 R&D 자동화가 가장 중요한 경제적 가치 창출 요인이 될 가능성 낮음
  • R&D의 실제 경제적 가치 측정
    • 미국 노동 통계국(BLS) 데이터에 따르면:
      • 1988~2022년 동안 총 요인 생산성(TFP) 성장률: 0.8%/년
      • 민간 R&D 기여도: 0.2%/년 → 전체 TFP 성장률의 약 25%
      • 노동 생산성 성장률: 1.9%/년 → R&D 기여도는 약 **20%**에 불과
    • 공공 R&D 지출은 전체 R&D 지출의 약 25% 차지
      • 공공 R&D의 외부 효과와 민간 R&D의 외부 효과가 상쇄됨
      • 결과적으로 총 R&D 기여도는 0.4%/년 수준
  • 자본 축적과 생산성 성장의 관계
    • 자본 축적이 노동 생산성 성장의 약 50% 차지
    • 나머지 성장은 관리 개선, 학습 효과, 지식 확산 등에서 발생
    • 미국 경제에서 자본 축적과 R&D 투자의 비율:
      • 연간 자본 투자: 5조 달러
      • 연간 민간 R&D 투자: 1조 달러
      • 자본 투자는 R&D 투자보다 약 5배 많음
  • 노동의 산출 탄력성(0.6)이 R&D의 산출 탄력성보다 약 5배 높음
    • 노동 자동화는 경제적으로 더 큰 기여 가능성 보유
    • 현재 경제에서 가장 큰 비용을 차지하는 항목(노동)을 자동화하면 경제적 가치 극대화 가능
    • 노동 자동화로 발생한 초과 산출은 다시 자본에 재투자되어 추가 성장 가능
  • R&D 성장 효과가 과소평가되었다는 주장도 존재
    • R&D의 외부 효과나 중복 연구로 인한 마찰이 반영되지 않았을 수 있음
    • 그러나 Bloom et al. (2020) 의 연구에 따르면:
      • R&D 투자에 따른 산출 탄력성은 0.3으로 자본과 비슷하고 노동의 절반에 불과
  • 결론적으로, 현재 경제 성장은 주로 R&D가 아닌 다른 요인에서 발생

AI R&D 자동화만으로는 AI 발전을 극적으로 가속화하기 어려움

  • AI R&D의 경제적 가치는 기대만큼 크지 않을 수 있지만, AI가 자체 R&D를 자동화하면 중요한 영향을 미칠 가능성이 있음
    • 만약 AI가 자체 소프트웨어 R&D 프로세스를 자동화할 수 있다면 소프트웨어 단독 특이점(software-only singularity) 이 발생할 수 있음
    • 고정된 컴퓨팅 자원을 기반으로 AI 연구자가 스스로 알고리즘을 개선하고, 이를 통해 더 많은 AI 연구자를 생성해 추가적인 소프트웨어 발전 가능
  • 아이디어를 찾는 데 드는 비용이 얼마나 빨리 증가하는지가 핵심 변수
    • 연구자 노력만으로 다수의 소프트웨어 R&D 성과를 달성할 수 있다는 가정이 필수적이나, 이는 사실이 아닐 가능성 높음
    • 더 현실적인 모델은 연구 성과가 인지적 노력 + 데이터의 상호 보완에 의해 발생하는 경우임
  • AI는 현재 실험 기반 컴퓨팅 성능 및 소프트웨어 발전 속도가 연간 약 3~4배로 빠르게 증가하고 있음
    • 실험 기반 데이터를 통해 소프트웨어 발전이 이루어지고 있음 → 데이터가 연구자 노력의 중요한 보완재일 가능성
  • 두 입력(인지적 노력 + 데이터)이 상호 보완적이라면 컴퓨팅 자원이 병목 현상을 유발할 수 있음
    • 결국 더 많은 GPU 확보 및 생산을 위해 물리적 작업이 필요해질 가능성
    • 이는 AI가 반도체 공급망 및 경제 전반에 광범위하게 배치되어야 함을 의미
  • 보완성이 얼마나 강한가에 따라 소프트웨어 단독 특이점의 지속 가능성이 결정됨
    • 다른 산업에서는 보완성이 일반적으로 강함 → AI R&D에서도 강할 가능성 높음
      • 예: Oberfield와 Raval(2014) 의 연구에서 미국 제조업에서 자본과 노동의 대체 탄력성은 0.7
      • 이는 소프트웨어 단독 특이점이 효율성 개선에서 1배 미만에서 끝날 가능성이 높음을 시사함
  • 현재까지 프로그래밍 자동화 및 연구 장비 자동화에도 과학적 진보가 급격히 가속화되지 않음
    • 전문 라이브러리 개발 → 프로그래밍 작업 자동화
    • LLM 도구를 통한 코딩 가속화 → 부분적인 효과에 그침
    • 물리적 실험 장비 자동화 → 급격한 과학 발전 없이 점진적 개선만 발생

R&D 완전 자동화에는 매우 폭넓은 능력이 필요함

  • 과학자의 업무는 표면적으로는 아이디어 생성, 가설 설정, 데이터 분석, 코딩, 수학적 추론 등 추상적 추론 작업이 중심처럼 보일 수 있음
    • 따라서 추상적 추론이 가능한 모델이 등장하면 연구자 업무가 빠르게 자동화될 수 있다는 예상이 나옴
    • 하지만 실제로는 연구자 업무가 단순한 추론 작업보다 훨씬 복합적인 능력을 요구함
  • 의료 과학자 업무 예시
    • 독성 물질 처리, 약물 효과 평가, 질병 연구 설계 및 수행, 세포 샘플 분석 등은 단순 추론이 아니라 복합적 기술 및 전문 장비 사용이 필요
    • 약물 용량 표준화, 의료 및 실험 절차 지도, 논문 작성, 연구 보조금 신청 등은 상대적으로 추론 기반 자동화 가능성이 높음
    • 의료 과학자의 주요 업무 중 상위 5개 작업에서 추론만으로 자동화 가능한 것은 1개에 불과
    • 전체 14개 작업 중 6개만이 추상적 추론만으로 자동화 가능하다고 판단됨
  • 연구자 업무의 핵심은 단순한 추론이 아니라 다음과 같은 복합적 능력을 포함함:
    • 기술적 장비 조작 → 복잡한 실험 장비 사용 능력
    • 팀워크 → 인간 연구팀과의 협업 및 조정 능력
    • 장기적 실행 능력 → 장기간에 걸쳐 복잡한 프로젝트 수행
    • 물리적 환경 조작 → 실험 및 실습에서의 물리적 조작 능력
  • AI가 연구자 업무에 요구되는 모든 복합적 기술을 습득하기까지는 상당한 시간이 소요될 것
    • 따라서 일반 노동 자동화가 연구자 업무 자동화보다 먼저 이루어질 가능성이 높음
    • AI가 과학적 돌파구를 먼저 이룬 뒤 다른 산업으로 확산될 것이라는 가정은 현실성이 낮음
    • 더 현실적인 시나리오는 AI가 먼저 광범위한 노동 자동화를 이루고, 이후 과학 및 기술 발전이 가속화되는 것임
  • AI가 과학 발전을 가속화하더라도 이는 연구자 대체가 아니라 연구 인프라 구축 자동화를 통해 이루어질 가능성이 높음
  • R&D 자동화는 현재 경제 성장에서 차지하는 비중이 크지 않기 때문에 AI는 비-R&D 작업 자동화를 통해 경제적 성장을 주도할 가능성이 높음

AI의 도약은 광범위하고 두드러지게 발생할 가능성이 높음

  • AI의 경제적·기술적 영향이 본격화되기 이전부터 AI 자동화는 광범위하고 두드러진 형태로 나타날 가능성이 높음
  • 광범위함(Diffuse) → AI 자동화는 특정 R&D 직군에 국한되지 않고 경제 전반에 폭넓게 영향을 미칠 것
  • 두드러짐(Salient) → AI의 영향은 대부분의 사람들이 명확히 인식할 정도로 크고, 노동 시장에 대규모 혼란을 초래할 가능성이 높음

  • AI의 주요 경제적 효과는 R&D 자동화가 아니라 광범위한 자동화에서 발생할 것

    • AI가 세계에 미치는 혁신적 효과는 명시적인 R&D 자동화에서 발생하지 않을 가능성이 높음
    • 오히려 광범위한 노동 자동화가 경제 및 기술 발전의 주요 원동력이 될 것

  • AI 도약의 현실적 시나리오

    • 1. AI의 작업 범위 확장
      • AI는 점진적으로 수행 가능한 작업 범위를 확장할 것
      • 이 과정은 주로 컴퓨팅 인프라 확장에 의해 주도될 가능성이 높음
    • 2. 경제 전반에서 광범위한 노동 자동화 진행
      • AI는 점점 더 다양한 노동 작업을 자동화할 것
      • 결과적으로 경제 성장 가속화로 이어질 것
    • 3. 대규모 노동 시장 변화 발생
      • AI가 경제적·기술적 돌파구를 만들기 전에 이미 노동 자동화의 물결이 발생할 것
      • 이 과정에서 노동 시장이 근본적으로 재편되고 AI에 대한 대중 인식이 변화할 것
    • 4. 광범위한 비-R&D 작업 자동화가 성장의 주요 원동력 역할
      • AI가 경제 및 기술 성장을 가속화하더라도 이는 비-R&D 작업 자동화를 통해 발생할 것
      • R&D 자동화는 성장에서 차지하는 비중이 상대적으로 작을 가능성이 높음

  • "일반 자동화 폭발" 시나리오

    • AI 도약은 "천재들이 연구소에서 R&D 성과를 폭발적으로 내는 형태"가 아닐 가능성이 높음
    • 대신 AI 도약은 광범위한 자동화 폭발의 형태를 띨 것
    • 즉, 특정 분야의 성과가 아니라 AI의 전반적인 자동화 범위와 규모가 성장의 주요 동력이 될 것

주요 시사점

  • 가까운 미래에는 AI 연구소가 일반 작업 자동화에 집중하는 것이 더 수익성이 높을 가능성이 큼
    • 예: 인터넷 탐색, 상업용 소프트웨어 운영, 일반 사무직 업무 수행 등
    • 생물학 및 의학 연구 보조와 같은 고도의 추론 모델 개발보다 일반 작업 자동화가 더 큰 경제적 가치 창출 가능성 높음
    • 따라서 AI 성능을 평가할 때 R&D 성과보다 일반 작업 수행 능력을 추적하는 것이 더 중요할 수 있음
  • AI가 세계에 혁신적 영향을 미칠 때까지 대중의 AI에 대한 인식이 크게 변화할 가능성이 높음
    • AI의 경제적 성장 및 인간 수명 연장 같은 성과가 나타나기 전에 이미 노동 자동화로 인한 대규모 혼란이 발생할 가능성 높음
    • 따라서 현재의 AI에 대한 대중 인식이 장기적으로 유지될 것이라고 가정하는 것은 위험함
  • AI가 인간의 모든 작업을 한 번에 대체할 가능성은 낮음 → 점진적 자동화 예상
    • AI는 수년에 걸쳐 인간의 작업을 점차적으로 자동화할 가능성이 높음
    • AI R&D 자동화로 인해 갑작스러운 초지능 폭발이 일어날 것이라는 시나리오보다 점진적인 전환이 더 현실적
    • AI가 특정 작업에서 인간을 초월해도 다른 보완적 작업에서는 여전히 인간이 우위를 점할 가능성 높음
  • AI는 결국 인간의 대부분의 경제적 활동에서 우위를 점할 것
    • 그러나 이는 수십 년에 걸친 점진적 자동화 이후에 발생할 가능성이 높음
    • 경제 성장 가속화는 R&D 자동화보다 일반 작업 자동화에서 더 큰 기여를 할 것
▲
redcrash0721 7일전  [-]

https://freederia.com/%ed%94%84%eb%a1%ac%ed%94%84%ed%8a%b8-%ea%b0%a4%e… r&d자동화 테스트중입니다. 쉽지는 않겟지만 먼미래는 아닐겁니다.

답변달기
▲
GN⁺ 8일전  [-]
Hacker News 의견

  • 기술 낙관주의가 정말 우울하게 느껴지는 사람이 있는지 궁금함. 기술이 인간을 대체하는 것과 관련된 이유 외에도, 실현 가능성이 낮은 과대광고에 흥분할 수 없다는 점에서 우울함을 느낌

    • 사회에 실질적인 이익이 없는 것처럼 느껴짐

  • 현재 거의 300개의 댓글 중에서 제약 프로그래밍(CP)을 언급하는 사람이 없다는 점이 놀라움. CP는 확률적 데이터 기반 AI의 결정론적 형제임

    • 14개의 작업 중 6개만이 추상적 추론만으로 수행할 수 있다고 추측함. 의료 과학자들에게 가장 중요한 작업 중 하나만이 추상적 추론에만 의존한다고 분류됨
    • 대부분의 중요한 작업은 기술적 기술, 다른 사람들과의 정교한 조정, 전문 장비 사용, 긴 맥락 능력, 복잡한 다중 모드 이해를 요구함
    • 14개의 R&D 작업 중 거의 모든 작업은 추상적 추론을 가진 데이터 기반 AI에 적합하지 않으며 CP로 해결 가능함
    • 현대 논리, 최적화, 제약 프로그래밍의 창시자는 Geoffrey Everest Hinton의 할아버지인 George Boole임

  • 이 기사는 여기서 모든 신뢰를 잃음

    • "1988년 이후 미국의 노동 생산성 성장의 20%만이 R&D 지출에 의해 주도됨"이라는 주장은 Jeff Dean의 순자산이 그의 프로그래밍 기술이 아니라 은행 계좌의 자본 심화에 기인한다고 말하는 것과 같음
    • 저자들은 추상적인 수준에서 개념을 다루고 있으며, 그들이 말하는 것과의 접촉을 잃음

  • 2015년의 기술 배포에 관한 고전을 읽지 않았다면 읽어볼 가치가 있음

    • 우리는 여전히 GenAI의 탐색 단계에 있는 것처럼 느껴지지만, ML은 배포 단계에 있는 것처럼 보임

  • 전형적인 실리콘밸리의 주장은 R&D가 "복잡"하고 다른 모든 것이 "단순"하다는 것임

    • 10년 전 AI가 수학/코드를 99%의 인간보다 더 잘할 수 있지만, 도어대시에서 핫도그를 주문하는 것이 최첨단이고 거의 불가능하다고 말하면 놀랄 것임
    • "일반적인" 작업이 더 가치 있다는 것에 동의하지만, 이러한 작업이 쉽게 자동화될 수 있다는 주장은 무지에 기반한 관점임
    • RPA는 10년 이상 존재했지만 많은 작업에 사용되지 않음. AI도 마찬가지이며, 데이터에 대한 대규모 무제한 액세스가 없으면 자동화되지 않을 것임

  • 그들은 R&D와 일반 자동화 중 어느 것이 더 많은 이익을 얻을 것인지 논쟁하고 있음. 이에 대한 논쟁의 의미가 무엇인지 의문임

    • 진행 중인 발전(예: alphafold)과 R&D 투자, 비율, 과거 추정 영향 등의 역사적 통계에서 답을 추론하려는 시도 사이의 단절이 이상함
    • AI 자체와 지속적인 돌파구가 R&D임

  • 산업 혁명과 농업 혁명이 다시 일어나는 것과 같음. 노동의 광범위한 자동화는 사회적 향상이 아니라 자본의 향상을 가져올 것임

    • 노동을 AI로 대체하는 것을 통해 "사회적 혼란"을 인용하지만, 문제를 정부가 해결해야 할 문제로 치부함
    • 노동을 제거하면 누가 그들의 제품을 구매할 것인지, 어떤 수입으로 구매할 것인지 의문임
    • 자본은 소비에서 벗어나 더 높은 목표로 문명을 완전히 재구성해야 하지만, 이는 현재 그들이 이익을 얻고 있는 권력과 부의 구조를 무너뜨리는 것을 의미함

  • 생산 요소의 상대적 가치 문제임. AI가 인간 노동의 상대적 가치를 기계, 원자재, 토지와 비교하여 증가시킬 것인지 감소시킬 것인지에 대한 문제임

    • 노동의 중간 상대적 가치는 특히 지식 노동자에게서 감소할 것이라는 직감이 있음
    • 규제된 직업에서 보호받는 것이 중요함

  • 이 기사에 전적으로 동의하며, 과거에는 비용/보상 계산이 의미가 없었던 많은 기회가 있음

    • Excel VBA의 보편성을 생각해보면, 여전히 대부분에게는 고급 기술로 간주될 것임

  • 기술 낙관주의자들은 중산층과 빈곤층의 마음에 있는 질문에 답해야 함

    • AI가 대량으로 일자리를 대체하는 미래에 대해 어떻게 기술 낙관주의자가 될 수 있는지 의문임
    • AI에 의해 대량 해고될 때 임대료나 세금을 어떻게 지불할 것인지 의문임
    • UBI는 임대료 상승, 임대료, 육아비, 세금 등과 함께 여기서 작동하지 않으며, 너무 비현실적이고 이상적임
    • AI 시대에 새로운 일자리가 창출될 것이라는 서사가 있지만, AI가 일자리를 창출하는 것보다 더 빠르게 대체할 것이라고 생각함
    • 기술 낙관주의자들은 부유한 투자자 계층이며, 그들의 서사를 추진하는 것에 투자되어 있음
답변달기