▲

AI 발전은 꾸준하며, 인간과 동등해지는 것은 갑작스러울 것

 (andyljones.com)
4P by GN⁺ 8시간전 | ★ favorite | 댓글 1개
  • 엔진과 말의 관계를 예로 들어, 인간 혹은 생물과의 기능적 동등성은 급격히 도래하여 인간 수준의 대체는 단기간에 일어난다는 것을 설명
    • 엔진 효율이 10년마다 20%씩 계속 향상되다가 1930년~1950년사이 미국 내 말의 90%가 사라짐
  • 체스 인공지능의 발전에서도 비슷한 패턴이 나타나, 수십 년간의 점진적 향상 끝에 인간 그랜드마스터를 단기간에 능가함
  • AI 투자 규모가 전 세계적으로 꾸준히 증가하며, 매년 미국 GDP의 약 2% 수준이 데이터센터에 투입되고 있음
  • Anthropic의 Claude가 불과 6개월 만에 연구자의 업무 대부분을 대체하며, 비용은 인간의 1/1000 수준으로 감소
  • 기술 발전의 속도와 자동화의 파급력을 고려할 때, 인간 직무의 변화가 과거 말의 운명보다 훨씬 빠르게 진행될 가능성이 있음

말과 엔진의 비유

  • 증기기관은 1700년에 발명되어 200년간 꾸준히 발전, 10년마다 약 20% 성능 향상을 기록
    • 그러나 초기 120년 동안 말은 그 변화를 전혀 체감하지 못함
    • 그러나 1930~1950년 사이, 미국 내 말의 90%가 사라짐
  • 기술 발전은 점진적이었지만, 말과의 기능적 동등성은 갑작스럽게 도래함

체스와 인공지능의 전환점

  • 컴퓨터 체스의 발전 추적은 1985년부터 시작, 이후 매년 50 Elo씩 향상
    • 2000년에는 인간 그랜드마스터가 컴퓨터를 상대로 90%의 승률을 기록
    • 단 10년 후에는 컴퓨터가 인간을 상대로 90%의 승률을 기록
  • 체스 AI의 발전도 꾸준했지만, 인간과의 실력 역전은 단기간에 발생

AI 투자와 성장 속도

  • AI 관련 자본 지출은 전 세계적으로 꾸준히 증가
    • 현재 매년 미국 GDP의 약 2%에 해당하는 금액이 AI 데이터센터에 투입
    • 최근 몇 년간 이 수치가 지속적으로 두 배씩 증가
    • 체결된 계약에 따르면 앞으로도 이 추세가 이어질 전망

Claude의 업무 대체 사례

  • Anthropic 초기 연구자로서 신입 직원의 기술 질문에 답변하는 역할을 수행했음
    • 2024년 당시 매달 약 4,000건의 질문을 처리
    • 2024년 12월, Claude가 일부 질문에 답변할 수준에 도달
    • 6개월 후에는 전체 질문의 80%가 Claude에 의해 처리, 월 30,000건 이상 응답
  • Claude의 응답량은 인간 연구자 대비 8배, 비용은 인간의 1/1000 수준
    • 단어당 비용 기준으로는 지구상 가장 저렴한 인력보다도 낮은 수준

인간 직무 자동화의 속도

  • 말이 대체되기까지 수십 년, 체스 마스터가 밀려나기까지 수년이 걸렸으나
    • AI는 불과 6개월 만에 연구자의 주요 업무를 대체
  • 1920년 미국에는 2,500만 마리의 말이 존재했으나, 이후 93%가 사라짐
  • AI 자동화 속도가 과거 산업혁명보다 훨씬 빠르게 진행되고 있으며,
    • 인간이 변화에 대응할 시간은 말보다 훨씬 짧을 가능성이 있음

“말이 누렸던 20년의 유예기간조차 얻기 어려울 것 같다”

발표 맥락

  • 본 내용은 2025년 여름 워크숍에서 진행된 5분짜리 번개 발표
  • 발표자의 개인 의견이며, 소속 기관의 입장을 대변하지 않음
▲
GN⁺ 7시간전  [-]
Hacker News 의견

  • 요즘 HN을 읽다 보면 약간의 피해망상이 생긴 것 같음. 말 인구가 엔진 도입으로 급감한 그래프를 인간 인구와 비교하는 글을 보게 될 줄은 몰랐음. 게다가 그 글이 인도주의적 경고가 아니라 경제 결정론적 시각에서 쓰였다는 게 충격이었음. 인간을 엔진에 비유하며 경제 논리로만 논의하는 분위기가 너무 이상함. 기술은 대중이 허락해야 하는 것 아닌가 하는 생각이 듦

    • 요즘 기술 업계에서 인간성과 그 산출물에 아무런 가치를 두지 않는 사람들이 너무 많다는 사실에 충격을 받았음. 우정, 사랑, 예술, 신앙, 양육까지 AI로 대체하려는 발상이 일상 대화에서도 들림. 이런 세상은 말 그대로 지옥 같음
    • 원글을 잘못 해석한 것 같음. 그래프는 ‘말 소유 수’를 보여주는 것이고, 사람들은 단순히 말을 더 이상 사지 않았을 뿐임. 말의 멸종이 아니라 수요 감소의 결과였음
    • 소프트웨어 엔지니어들이 마치 인류를 멀리서 관찰하는 은하 두뇌처럼 말하는 경향이 있음. 이는 자신을 ‘지적 존재’로 동일시하고, 인터넷이 인간 사회와의 연결을 약화시킨 결과라고 생각함
    • 이제 와서 컴퓨터 업계 사람들이 걱정하기 시작했다니 늦은 감이 큼. 자동화와 디지털화는 이미 수십 년 전부터 일자리를 뒤흔들었음. 그때는 “적응하라 아니면 사라져라”는 반응뿐이었는데, 이제 자신들이 타깃이 되니 달라진 듯함
    • 이런 논의는 새로운 게 아님. 브레이브 뉴 월드, 로건스 런 같은 작품들이 이미 100년 전부터 기술 종말론을 다뤄왔음. AI 시대에 이런 담론이 다시 부상하는 건 당연한 일임

  • 말은 사료를 먹고, 자동차는 휘발유를 먹고, LLM은 전기를 먹음. 하지만 단순히 더 많은 연산이 진보를 의미하지는 않음. LLM이 모든 일을 대체하지는 못함.

    • 기업이 인력을 줄이는 이유는 ‘가치 없는 사람’을 제거하기 위해서라는 말에 동의하지만, 현실은 그렇지 않음. 예를 들어 병원은 비서들을 해고했지만, 그 결과 의사들이 행정 업무에 시간을 낭비하게 되었음
    • AI가 코딩을 대체하지 않는다는 말에 회의적임. 지금은 괜찮아 보여도 결국 Wile E. Coyote처럼 허공에 매달린 상태일지도 모름
    • 비서나 타이피스트의 역사처럼, 커뮤니케이션 자동화는 꾸준히 사람을 줄여왔음. LLM도 그 연장선에 있음. 완벽하지 않지만 결국 인간의 역할은 계속 축소될 것임
    • 기업 간 경쟁이 AI 무기 경쟁을 부추김. 인간을 완전히 배제한 기업은 결국 인간+AI를 병행하는 기업에 밀릴 것임
    • 대부분의 회사는 항상 일이 많고 사람이 부족함. AI는 단지 개발 속도 가속기 역할을 할 뿐임

  • 엔진은 단순한 기계 작동을 하지만, 인간 수준의 적응력과 추론력을 가진 AI는 아직 멀었음. AGI라는 단어가 사라지고 ‘transformative AI’ 같은 표현으로 바뀐 것도 흥미로움. 지금은 큰 변화 없이 정체기에 들어선 느낌임

    • 자동차가 세상을 바꾼 것처럼, AI를 위해 우리가 어떤 ‘도로’ 를 새로 깔게 될지 궁금함. 아마도 전력 인프라일 것 같음
    • 예전에는 ‘AGI’가 허풍스러운 단어였는데, 이제는 그 반대가 된 게 아이러니함
    • 기업들이 공포 마케팅으로 AI를 팔고 있음. AGI는 결국 IPO나 인수합병을 위한 유행어에 불과함
    • 인간처럼 학습하는 AI를 기다린다는 말은 무의미함. 그런 게 이미 존재했다면 우리는 벌써 대체되었을 것임
    • 엔진이 단순하다고 느끼는 건 익숙해서일 뿐임. 실제로는 복잡한 시스템이며, LLM도 마찬가지임

  • 인간은 단순한 기계가 아님. AI가 인간보다 모든 면에서 우월하지 않는 한, 인간은 여전히 가치 있는 역할을 할 수 있음. 문제는 사회와 경제 시스템이 이 변화를 얼마나 잘 흡수하느냐임

    • 은행원이 사라졌지만 결과적으로 인류 전체의 효율성이 높아졌던 것처럼, 지루한 사무직 자동화도 결국 긍정적일 수 있음. 다만 이익이 자본에만 집중되지 않도록 해야 함
    • AI는 흡혈 기술 같음. 데이터를 빨아들이며 가치를 추출하지만, 결국 현실과의 연결이 약해질 수 있음. 기술 소유자는 반드시 인간에게 재투자해야 함
    • 진짜 문제는 인간이 서로에게 무엇을 제공하느냐가 아니라, 소수의 부자에게 무엇을 제공하느냐임

  • LLM은 신입 온보딩을 빠르게 만들어줌. 피곤하지 않은 멘토 역할을 하며 자신감을 높여줌. 하지만 여전히 핵심 결정은 인간이 주도함

    • 온보딩은 ‘무엇’보다 ‘왜’를 배우는 과정이어야 함. LLM은 맥락과 역사적 이유를 설명하지 못함
    • 인간 멘토는 단순한 답변 그 이상을 줌. 공감과 사회적 연결이 중요함
    • 신입의 질문이 사라지면, 오히려 문서화나 코드의 문제점을 파악할 기회를 잃게 됨

  • 인간의 역사는 얼마나 많은 에너지 노예를 확보했는가의 역사였음. AI가 그 수를 늘릴지 줄일지가 핵심 질문임

    • AI는 인간 노동의 재분배 메커니즘을 무너뜨릴 위험이 있음. 노동 가치가 사라지면 오히려 서민이 더 가난해질 수 있음
    • AI가 내 작업물을 무단으로 사용하니, 나는 오히려 AI의 에너지 노예가 된 기분임
    • 일부는 아예 보통 인간을 제거하려는 듯함. 인간이 줄면 자원 문제도 해결된다는 냉혹한 발상임

  • 예전에는 코드 줄 수로 생산성을 재지 않음이 상식이었음

    • 다음 세대의 코딩 LLM은 코드를 줄이는 패치를 생성하도록 훈련시키면 좋겠음

  • 평균 개발자가 만든 복잡한 코드 덕분에 내 일자리는 안전하다고 생각함. 나는 기술 부채를 줄이는 구조를 설계함으로써 팀의 중심이 됨. AI가 나 같은 상위 엔지니어를 대체할 수 있다면, 그건 곧 기업가 정신까지 대체할 수 있다는 뜻임

    • 대부분의 사람은 자신이 평균 이상이라고 믿음
    • 프로젝트를 장악하고 싶을 때가 많지만, 인간 관계의 비용을 생각하면 자제함
    • LLM이 복잡한 코드를 내는 이유는 인간을 모방해서가 아니라 계획 능력 부족 때문임
    • 당신이 주도적인 이유는 다른 엔지니어들이 충돌을 피하기 위해 그냥 두기 때문일 수도 있음
    • 코드 유지 비용이 거의 0이라면 복잡성은 큰 문제가 아님

  • ‘단어당 비용’ 같은 지표는 이상함. 단어 수가 가치의 척도가 될 수 없음

    • 이런 지표는 오히려 AI에게 유리하게 작용함. AI는 단순한 질문에도 장황하게 답함
    • 처음엔 AI가 신기했지만, 지금은 개성 없는 장문이 지겨움. 결국 교정 도구로만 쓰게 됨
    • ‘단어당 생각 비용’ 같은 개념은 더 이상함. 대부분은 단순한 자동 완성 텍스트일 뿐임
    • 이건 단순한 단어가 아니라, Anthropic 직원이 쓴 답변이라는 점이 흥미로움

  • AI를 다른 기술에 비유하기보다, 그 자체로 예측 불가능한 존재로 보는 게 맞음. 날씨 예보처럼 20개월 뒤를 알 수 없음

    • 말이나 체스 엔진의 비유처럼, 일정 수준을 넘으면 급격한 전환점이 올 수 있음. 반복적 사무직이 가장 먼저 사라질 것 같음
    • 지금은 구체적 논의가 필요함. 하이프보다 현실을 봐야 함
    • AI 발전은 날씨보다는 체스 등급 그래프에 더 가까움. 꾸준히 상승 중임
    • AI는 기계적 힘이 아니라 정보 처리 기술임. 인류의 다른 정보 혁신—언어, 수학, 논리, 트랜지스터—과 비교할 수 있음. AGI는 인간 활동을 대체하기보다 보완적 역할을 할 가능성이 큼. 다만 전력, 반도체, 법적 인프라 등 여러 제약이 존재함. 결국 AGI의 실패 모드와 안정성이 가장 흥미로운 연구 주제가 될 것임
답변달기