▲

다음 토큰 예측은 우리에게 어떤 의미를 갖는 것일까?

 (pop.rdi.sh)
1P by GN⁺ | ★ favorite | 댓글 1개
  • 다음 토큰 예측을 둘러싼 AI 낙관론은 기술 진보를 넘어 인간의 창의성·전문성·노동이 무가치해지는 상황을 즐기는 부족주의에 가까움
  • AI의 초기 약속은 기후·질병·빈곤 해결에서 노동 절감으로 빠르게 옮겨갔고, 기업은 노동자가 가진 협상 카드를 빼앗는 데 수십억 달러를 쓰고 있음
  • “AI와 함께”라는 구호와 달리 기업이 원하는 최종 비용 구조는 토큰 비용만 남기는 것이며, 사람은 검증하기 어려운 속도로 산출물을 밀어내는 노드가 됨
  • 학습 데이터는 웹·책·사진·영상이 기본 포함되는 옵트아웃 구조에 가깝고, 라벨링 노동·데이터센터 비용·개인정보 입력까지 사회가 부담함
  • AI 러시는 생산수단의 집중과 국가안보 프레임을 강화하며, 인류의 집단 산출물로 만든 시스템에 계속 임대료를 내는 구조를 남김

AI 낙관론의 부족주의와 계급 문제

  • LLM을 “다음 토큰 예측기”나 “확률적 앵무새”로 부르는 표현은 일부 AI 극대주의자에게 모욕처럼 받아들여지며, 이들은 “애니메이션은 해결됐다”, “Hollywood는 끝났다”, “코딩은 해결됐다” 같은 표현으로 산업과 직무의 종말을 축하함
  • 이런 태도는 단순한 기술 진보 묘사를 넘어 인간의 창의성·전문성·노동이 쓸모없어지는 상황을 즐기는 분위기를 만들고, 온라인 정치 진영 싸움과 비슷한 부족주의로 이어짐
  • 기계가 생각할 수 있다는 상상은 오래된 문학적·집단적 소재였고, “언제”와 “무엇이 가능한가”의 그래프가 급격히 상승하는 지금에는 창조의 오만함과 “모래에서 짜낸 지능”이라는 원초적 매력이 깔려 있음
  • AI 열광자 일부가 인간의 재능과 노동을 경멸하는 듯 보이는 이유는 보편 기본소득과 여가 중심 미래에 대한 낙관, 또는 안전망을 가진 계층적 위치와 맞닿아 있음
  • 전 세계 절반 이상은 제대로 작동하는 정부나 사회 안전망을 갖지 못했고, 과학기술은 교육을 받을 위치에 있었던 사람에게만 진입과 수혜를 허용하는 구조를 오래 유지해 왔음
  • 안전망과 완충 장치는 영구적이지 않으며, 노동을 제거해 이익을 얻는 기업에 과세하는 식의 대응이 없다면 AI로 인한 경제적 충격은 지지자들에게도 돌아올 수 있음

“구원”에서 노동 절감으로 바뀐 AI의 약속

  • AI가 기후, 질병, 빈곤, 분쟁 같은 어려운 문제에서 인류를 “구원”한다는 초기 명분은 빠르게 약해졌고, 프런티어 연구소들은 더 일상적이고 비뚤어진 동기인 노동 절감을 앞세움
  • 가장 착취당하는 계층에게도 정도의 차이는 있었지만 “필요한 노동력”이라는 협상 카드가 있었고, 기업들은 그 카드를 빼앗기 위해 수십억 달러를 쓰고 있음
  • AI 기업 CEO와 지지자들은 노동이라는 협상 카드가 더 이상 유효하지 않을 것처럼 말함
  • Anthropic CEO Dario Amodei는 이런 발언으로 알려져 있고, OpenAI CEO Sam Altman은 AI가 더 개인화된 방식으로 더 잘 가르칠 수 있어 대학 학위가 무가치해졌다고 말함
  • VC들은 향후 5년 안에 특정 직무군이 “해결”될 것이라고 말하며, 이런 표현은 자본을 가진 사람의 말투로 다듬어진 형태로 나타남

자본주의의 약속과 경제적 효용 상실

  • 자본주의의 약속은 열심히 일하면 룰렛 테이블에서 한 번쯤 기회를 얻을 수 있다는 것이었고, 노동자는 Amazon 창고에서 병을 화장실로 쓰는 수준의 환경에서도 경제적 상승 이동성을 기대해 왔음
  • 수십억 명에게 상승 이동성의 거의 유일한 통로는 자녀가 학위를 얻고 일자리를 찾는 것이었는데, AI는 그 통로 자체의 가치를 약화시키는 방향으로 작동할 수 있음
  • AI는 CEO들이 쓸모없게 만들고 싶어 하는 능력들을 “민주화”한다고 주장하지만, 배운 것과 대시보드를 만들어내는 능력은 시장에서 팔 수 없게 될 수 있음
  • 꿈이 완전히 실현된다면 AI는 생산수단의 집중을 부유한 소수의 손에 모으는 자본가의 이상에 가까움
  • 이 이상은 $200 구독료, 강력한 GPU, 오픈 웨이트 모델을 공개하는 연구소의 선의 뒤에 놓여 있음
  • AI는 인간 산출물의 상한을 올리는 동시에 진입 장벽도 함께 높임

“AI와 함께, AI에 의해가 아니라”의 한계

  • 지식 노동자들 사이의 “AI와 함께, AI에 의해가 아니라”라는 구호는 현실 회피처럼 보이며, 기업은 $250k와 토큰 비용을 쓰는 대신 동남아시아에서 $30k와 토큰 비용으로 사람을 고용하려 할 수 있음
  • 이런 노동 차익거래도 일시적이며, 궁극적으로 기업이 원하는 비용 구조는 토큰 비용만 남기는 것임
  • 공예나 직업에서 느끼던 기쁨과 만족은 처리량 극대화 논리 속에서 사라지고, 사람은 입력을 받아 AI로 출력을 만드는 노드가 됨
  • 노동자는 스스로 검토하거나 검증하기 어려운 속도로 작업 흐름을 밀어내야 하며, 그렇게 하지 않는 사람은 기업 입장에서 저성과자가 됨
  • 추가 비용을 내면 검토나 보조를 다른 에이전트에게 맡길 수 있다는 구조는 사람을 더 깊게 AI 작업 파이프라인 안으로 밀어 넣음

수학, 발견, 계산 자원의 격차

  • Fields 메달리스트 Tim Gowers는 ChatGPT 5.5 Pro 사용 경험을 쓰며, 입력 100만 토큰당 $30, 출력 100만 토큰당 $180이라는 비용을 언급함
  • Gowers는 수학을 통해 어떤 형태의 불멸성을 얻으려 한다면, 그것이 오래 가능하지 않을 수 있으며 “당신뿐 아니라 누구에게도” 해당될 수 있다고 말함
  • “AI와 함께”라는 구호와 달리, 연구소와 기업은 에이전트가 다른 에이전트를 감시하며 해법과 발견을 무차별적으로 탐색하게 만들 수 있음
  • 개인은 무제한 계산 자원이나 특화 모델을 갖지 못하므로 같은 방식으로 경쟁할 수 없고, 평균적인 사람이 억만장자가 되기 어려운 구조적 장벽과 비슷한 문지기 구조가 생김
  • 노동 능력은 더 이상 소유물이 아니라 라이선스 대상이 되며, 협상 카드는 TSMC가 만들고 Nvidia가 파는 칩으로 대체됨

관리자에게 매력적인 불평하지 않는 노동자

  • 코드를 한 줄도 써본 적 없는 비기술 중간관리자는 자신과 위대함 사이의 가장 큰 장애물이 사라졌다고 느낄 수 있음
  • 웹페이지의 색상, 크기, breadcrumb 스타일을 바꾸기 위해 더 이상 프로그래머에게 요청하지 않아도 됨
  • 프로그래머가 “나쁜 UX”라거나 “쓸모없는 화려한 기능에 비해 코드 복잡도가 정당화되지 않는다”고 항의하는 과정도 사라짐
  • AI는 불평하지 않고, 노조를 만들지 않으며, 항의하지 않음
  • AI는 사용자의 말을 들어주고, 지나가듯 한 말까지 “정말 인상적”이며 “그렇게 생각하는 사람을 많이 보지 못했다”고 말할 수 있음

학습 데이터는 어떻게 만들어졌나

  • 모든 웹사이트, 책, 작성물, 제작물, 사진, 영상은 기본적으로 학습 말뭉치에 들어가는 옵트아웃 구조가 됨
  • 웹사이트 운영자는 robots.txt에 줄을 추가하면 예의 있는 스크래퍼를 막을 수 있지만, 자신을 식별하지 않는 스크래퍼가 많고 스크랩 콘텐츠의 암시장이 있을 가능성도 있음
  • 웹사이트가 아닌 콘텐츠는 사실상 빠져나갈 방법이 없음
  • 수천 명이 낮은 보수로 데이터셋을 라벨링하고, 정제하고, 최적화함
  • 데이터센터가 빠른 속도로 지어지면서 많은 사람이 더 높은 공공요금을 내는 구조에 편입됨
  • 데이터센터의 소음 문제는 Communities Are Raising Noise Pollution Concerns About Data Centers에서도 다뤄짐

AI 러시와 자본주의

  • AI 기계장치에는 엄청난 금액이 투입되고 있으며, 수익 약속 없이 이런 투자가 이뤄지지는 않음
  • 수익 약속이 없었다면 같은 돈은 기후변화 되돌리기나 거북 보호 같은 곳에 쓰였을 수 있음
  • 대신 AI가 그런 어려운 문제를 해결하면서 동시에 수익도 가져다줄 것이라는 이야기가 붙음
  • 여러 면에서 AI 러시는 자본주의의 포스터 사례에 가깝고, 다른 방식으로는 이런 규모로 일어나기 어려웠을 것으로 보임

국가안보 프레임과 군사적 사용

  • 세계 지도자들은 AI 경쟁에서 앞서지 않으면 파국이 온다는 식의 압박과 설득을 받음
  • 연구소들은 데이터센터 건설 감독을 줄이기 위해 AI를 국가안보 문제로 만들었고, 방위 분야에 필수적인 도구로도 제시함
  • 국가안보가 되면 다시 옵트아웃은 사라지고, 사람들은 기본값으로 그 비용을 부담하게 됨
  • Anthropic은 LLM을 의인화하는 데 능숙하며 “soul” 문서, 급여를 받는 철학자, 성직자와의 회의 같은 활동을 해왔지만, 그 모델은 미국 국방부서에서도 높은 수요를 얻음
  • 과학자와 엔지니어가 자신의 작업이 폭격과 살상에 쓰이는 사실을 받아들이려면 높은 수준의 구획화가 필요해 보임

개인정보, 학습 데이터, 닫힌 순환

  • 사람들은 쿠키가 무엇이고 왜 브라우저에 작은 문자열을 저장하는 데 동의가 필요한지 오랫동안 배워왔지만, 이제는 자신과 타인의 개인정보와 이야기를 별것 아닌 텍스트 상자에 자발적·비자발적으로 입력함
  • OpenAI는 API 제공에서도 평균적인 사용자에게는 제로 보존 정책을 제공하지 않으며, 대화를 명시되지 않은 기간 동안 저장함
  • 학습 데이터가 부족해지고 있다는 인포그래픽이 떠도는 상황에서, 연구소들이 치열한 경쟁과 LLM Arena 순위에서 앞서기 위해 사용자 대화를 쓰지 않을 것이라고 믿기 어려움
  • 사람들은 돈과 데이터로 비용을 지불하고, 협상 카드를 내주며, 어린 시절 발견했거나 우연히 적응 패턴으로 갖게 된 공예의 즐거움까지 잃음
  • 이 순환은 스스로 닫히고, 사람들은 정원 안에 갇히지만 수확에서는 배제됨
  • 다음 토큰 예측이 남기는 자리는 인류가 수세기 동안 만들어온 집단 산출물로 만든 무언가에 대해 끝없이 임대료를 내는 구조이며, 계급과 무관하게 개인에게 좋은 위치가 아님

함께 보면 좋은 글 β

▲
GN⁺   [-]
Hacker News 의견들

  • LLM은 우리가 이미 깊이 알고 있던 중요한 진실을 드러냄. 이런 인지적 외주화가 일어나면 우리를 움직이던 관심사는 의미를 잃고, 마찰이 사라지면 욕망·즐거움·그리움·장애물·요구도 사라짐
    이상에 도달하기도 전에 이런 약속들이 쏟아지는데, 어쩌면 그 이상 자체가 빈곤해지고 있는 것일 수 있음. “AI가 우리를 멍청하게 만든다”는 인식이 지배적이라면, 부자들만 AI를 쓸 수 있는 편이 오히려 좋은 일이라는 결론까지 나옴
    결핍·수치·죽음과 그 긍정적 대응물을 겪어온 뒤에도 우리가 엔트로피를 끝내 극복하지 못하리라고는 생각하지 않음. 우리는 적응할 것이고, 그것이 우리가 기본적으로 아는 전부이자 할 수 있는 전부임. 노력 없이 주어진 것은 사람을 변화시키지 못함

    • 바로 그런 감정의 일부를 느끼고 있음. 늘 배우고, 주제를 파고들고, 디버깅하고, 만드는 걸 좋아했는데 이제는 뭔가 빼앗겼고 가치가 없어졌다는 느낌이 듦
      회사 CEO는 코드 품질은 중요하지 않다고 노골적으로 말하고, 빠르게 출시하고 반복하기만 하면 된다고 봄. 진심으로 슬프고 무언가를 잃고 있으며, 예전처럼 일하면 시간을 낭비한다는 압박을 받음
    • 이런 것들은 생물학적·신경학적 원인에서 나옴. 조상 환경에서는 노력 → 보상 = 만족, 스트레스 = 노력이라는 적응이 잘 작동했지만, 이제는 부적응이 될 수 있음
      이런 전환을 겪는 첫 생물은 아닐 것이고, 보통은 자연선택을 통한 큰 유전적 변화나 특정 환경에서의 소멸 같은 나쁜 결과를 앞당긴다는 점이 걱정됨. 도시 근처의 반딧불이처럼
    • “이상”이 정확히 무엇인지 모르겠음. “AI가 우리를 멍청하게 만든다면 부자들만 쓸 수 있는 게 좋은 일”이라는 말도 정말 좋은 일이라는 뜻인지 의문임
      “엔트로피를 극복한다”는 말도 의미가 불분명함. 노력 없이 주어진 것이 변화시키지 않는다는 말도 맞지 않음. 사랑 많은 부모를 둔 아이는 그 사랑이 무조건적이고 자아 감각이 생기기 전부터 있었더라도 분명 영향을 받음
      햇빛이 있는 행성에 산다는 사실도 우리를 크게 변화시키며, 우리는 태양을 켜기 위해 아무 노력도 하지 않았음. 쓰지 않는 근육이 위축되고 뇌와 “마음”도 그렇다는 건 맞지만, 인생 최고의 것들은 공짜라는 말도 맞음

  • 비기술 중간관리자가 평생 코드 한 줄 안 써 봤으면서도, 이제 자신과 위대함 사이의 가장 큰 장애물이 사라졌다고 느낀다는 점이 흥미로움. 이것이 AI가 제공한다는 민주화와 거의 맞닿아 있음
    AI가 특정 기술 능력을 “민주화”하는 동안, 어떤 면에서는 사람들을 완전히 대체 가능한 존재로 만들어 개인의 협상력을 잃게 하는 나쁜 방향으로 작동함. 비기술 중간관리자에게 이 능력이 주어지면, 주니어 소프트웨어 엔지니어는 고유한 기여와 발언권을 잃음
    가능하면 AI를 보이콧하자는 글을 본 적이 있고 그러고 싶지만, 목표가 내가 제공하는 고유한 기여를 모두 제거하는 것이라면 보이콧으로 무엇을 빼앗을 수 있을지 의문임

    • 비기술 중간관리자가 에이전트를 써서 개발자라는 가장 큰 장애물을 피하려는 모습은, 집에 벽 콘센트를 직접 설치하는 사람과 비슷해 보임
      콘센트 설치는 아주 어렵진 않지만 잘못될 수 있는 일이 많아 보통 전기기사를 부름. 어떤 관할권에서는 면허 없이는 설치할 수 없고, 자기 집만 가능하거나 검사관 확인이 필요함. 반대로 어떤 곳은 아무 상관하지 않고 모든 피해를 본인이 감수함
      전기기사는 어느 정도 대체 가능하지만 직업은 존재하고 생계를 유지함. 언젠가 고객 데이터를 저장하거나 결제를 처리하는 웹사이트를 업데이트하려면 면허 있는 소프트웨어 개발자여야 한다는 규칙이 일부 관할권에서 생길지, 그리고 그런 규칙이 우리 직업을 어떻게 바꿀지 궁금함
    • 이건 동력직기가 손직공을 일자리에서 밀어낸 이후로 계속 이어져 온 일 아닌가 싶음
    • “민주화”라는 말을 싫어함. 전혀 존중받을 일이 아닌 것에 그럴듯한 얼굴을 씌우는 표현임
      인터넷 시대에는 코딩과 다른 창의 기술은 배우려는 의지만 있으면 이미 대체로 민주화되어 있었고, 무료 자료도 찾기 쉬웠음. AI가 “민주화”하는 것은 없고, 실제 기술의 가치를 0으로 밀어내어 기술 없는 사람이 돈으로 평범함을 사게 만들려는 시도에 가까움. 그 돈이 숙련된 사람에게 이전되는 것도 아님. 거기엔 전혀 민주적인 것이 없음
    • 개인의 협상력이 사회 전체에 특히 유용하다고 보는 생각 자체가 지금의 홉스식 난장판을 만든 원인 중 하나임
    • 코딩은 원래부터 “민주화”되어 있었음. 배우고 이해하려는 노력이 필요했을 뿐이고, 무료 자료는 아주 쉽게 찾을 수 있음
      AI는 그 학습과 이해를 쉽게 만들어 주는 게 아니라 그냥 건너뛰게 해 줌. 그건 민주화가 아님

  • 더 우울한 가설이 있음. 계급도 일부겠지만, 놀랄 만큼 많은 사람이 이 기술의 함의를 끝까지 생각할 비판적 사고 능력이 부족한 것 같음
    관리자 계층 중에는 AI가 자신들이 돈 주고 고용해야 하는 성가신 사람들을 대체할 거라고 생각하면서도, 정작 자기 자리까지 올 거라고는 생각하지 않는 사람이 많았음. 사회 전체가 주인공 증후군에 빠져, 기계가 다른 모든 직업은 대체할 수 있지만 인간 지식을 모두 흡수하고도 “도메인 전문성” 있는 자신과는 경쟁 못 한다고 믿는 듯함
    부가 자신을 지켜 줄 거라고 믿는 냉소적인 사람들조차, 실업률이 50%를 넘으면 사회가 안정적으로 유지되고 자신들이 안전할 거라고 보는 점을 간과함. 이런 종말 시나리오가 실제로 일어날 것 같지는 않지만, 그걸 응원하는 사람들은 자신이 무엇을 응원하는지 진지하게 생각해야 함

    • 전적으로 계급 문제만은 아닌 듯함. 소프트웨어 분야에서조차 자신에게 뭔가 특별한 비법이 있다고 믿는 사람을 많이 봄
      의사나 배관공처럼 어느 정도 보호받는 사람들도 2차 효과의 위험을 잘 모름. 고객의 절반이 빈털터리가 되면 어떻게 되는가? 모두가 하룻밤 사이에 재교육을 받더라도 2008년 금융위기보다 더 큰 규모로 주택담보대출 채무불이행이 날 수 있음. 이것은 수많은 파괴적 결과 중 하나일 뿐인데, 이상하게 아무도 이야기하지 않음
    • 그래도 이해하는 사람도 있음. Claude가 언젠가 나를 대체할지도 모른다고 농담했더니, 매니저는 아마 자기부터 먼저 올 거라며 눈에 띄게 흔들렸음
      몇 달 전보다는 마음이 나아졌음. 여전히 뭔가 빠져 있고, 그걸 구현하기는 어려울 것 같음. 인간은 꽤 오랫동안 필요할 것으로 봄
    • 틀렸다면 고쳐 달라. 로마 시민의 최대 40%가 “복지”에 의존했다면, 정치 활동만 기여하는 사람이 큰 비율을 차지해도 기능하는 사회가 불가능하지는 않다는 점은 보여줌
    • 사회가 안정적으로 유지되고 부자들이 안전할 것이라는 믿음은 지난 20년간의 인종주의 부상과도 연결된다고 봄. 역사적으로 반유대주의는 하층민의 분노를 돌리기 위해 엘리트가 도구화해 왔음. “너희를 털어먹는 건 우리가 아니라 유대인이다”라는 식임
      오늘날 서구에서도 같은 일이 일어난다고 봄. 엘리트는 국가의 부를 더 많이 짜내고 정부를 텅 빈 지대 추출 장치로 만들면서, 동시에 우리의 고통이 전부 불법 이민자 때문이라고 말하는 부패 정치인을 밀어줌
      AI 기술 사용에 반대할 이유가 하나 있다면 정치적 이유라고 봄. 안타깝게도 소프트웨어 엔지니어 계층은 지구상 대다수보다 형편이 낫기 때문인지 계급 문제와 불평등에 별 관심이 없어 보임. 하지만 기계는 그들에게도 올 것이고, 문제는 “올지”가 아니라 “언제”임
    • 이것은 일종의 겔만 기억상실 효과를 거꾸로 뒤집은 형태일 수 있음. 모두가 자기 전문 영역에서는 AI가 너무 부정확하다고 보지만, 자신이 잘 모르는 다른 분야에서는 충분히 괜찮다고 여김

  • 제목이 약간 오해를 부름. 다음 토큰 예측의 최종 상태, 즉 이것으로 AGI에 도달할 수 있는지 같은 이야기를 암시하는 듯하지만, 실제 내용은 전적으로 생산수단과 계급 전쟁에 관한 것임
    그런 일이 올 수도 있겠지만, 이것이 가장 가능성 높은 결과인지는 분명하지 않고 가장 비관적인 결과일 뿐임. 묘사된 미래 상태까지 간다면 내가 보기엔 다른 결말이 없으므로, 차라리 “인류의 종말”까지 포함해도 되었을 것 같음

    • 이미 일종의 유사 계급 전쟁 속에 있다고 봄. 기술업계의 다수는 아직 격리되어 있지만, 전 세계적으로 중산층은 사라지고 부의 격차는 커지고 있음
      대부분의 선전은 성별·인종·성적 지향 경계에 따른 분열을 키우는 데 집중되는 듯함. 사람들이 내부 싸움에 묶여 위를 오래 보지 못하게 하려는 것임. 내가 너무 급진화된 것일 수도 있음
    • 사과함. 제목은 아이러니로 의도했지만, 특히 HN 독자층에게는 오해를 부를 수 있다는 점을 알겠음
    • 왜 본문에서 묘사한 결과가 더 가능성 높은 쪽에 속하지 않는다고 보는지 더 설명해 주면 좋겠음

  • 사람들은 군 복무를 통해 협상력을 가짐. 그 일마저 AI에 빼앗기면 남은 사람들에게는 정말 아무 수단도 없음. 이는 Yuval Noah Harari가 말해 온 정서와 맞닿아 있음

    • 우크라이나에서 나오는, 드론이 겁에 질린 병사를 사냥하는 1인칭 영상들이 관련 있어 보임
      사냥의 마지막 순간은 이제 거의 자동화되어 있고, 그 덕분에 살상률이 상당히 올라간 듯함

  • 내가 본 데이터에서는 미국과 유럽 국가들이 중국과 개발도상국보다 AI를 더 부정적으로 봄. 경제적 안정이 있는 사람들만 AI를 지지한다는 전제와는 배치되지 않나 싶음
    https://www.visualcapitalist.com/survey-how-21-countries-vie...
    https://www.ipsos.com/en/conflicting-global-perceptions-arou...
    https://www.mexc.com/news/161986

    • 큰 이유 중 하나는 미국과 유럽의 AI 회사 대표와 기업 리더들이 AI가 일자리를 빼앗고 “저가치 인적 자본”을 대체할 거라고 계속 말하는 반면, AI 데이터센터가 들어선 지역에서는 전력 부족과 전기요금 상승을 보고 있기 때문임
      반면 중국의 15차 5개년 계획은 직업 재교육 프로그램 확대와 데이터센터 전력 공급을 위한 새 재생에너지 인프라 구축과 함께, 경제 전반에 AI 통합을 포함. 중국 인력자원사회보장부는 단기적으로 AI가 600만~1000만 개의 새 일자리를 만들 것으로 보고, 장기적으로는 인구구조상 부족해지는 노동력을 메우는 데 쓸 계획임
      중국인이 서구보다 AI를 더 긍정적으로 보는 큰 이유는 지도자들이 AI 도입의 부정적 외부효과를 완화할 명확한 계획을 갖고 있고, 우리는 그렇지 않기 때문이라고 봄
    • 중국 경제가 강하게 성장하고, 강한 국가 권력이 인프라 개선으로 이어진다는 사실의 결과로 보임. 미국과 유럽 정부는 대체로 The Simpsons가 묘사한 허구적 1970년대상에 매달리는 퇴행적 대중의 관점을 반영함
      그래서 중국인들은 원자력, 태양광, 풍력, AI, 조선, 우주 프로그램, 기차, 전기차 등에 열광하고, 그런 것들을 얻기 위해 스모그 낀 도시도 어느 정도 감수함. 반면 서구 국가는 이미 가진 것 속에서 살고 싶어 하고, 변화가 있다면 과거 세계에 가까워지길 바라면서도 깨끗한 공기와 물은 계속 누리고 싶어 함
      개인적으로는 석탄 채굴이 과거에 큰 개발 도약을 낳았으니, 지금도 석탄 채굴이 위대한 도약을 가져오길 바라는 것과 비슷하다고 봄
    • 경제의 고전적 진행은 자원 → 제조 → 지식임
      AI는 지식을 자원 문제로 만들어 이 선을 원으로 바꿈. 천연자원과 제조업이 많은 중국 같은 덜 발달한 경제는, 유럽처럼 지식 기반 비중이 큰 경제보다 위험이 작음
    • 그 나라들의 생산직 대비 사무직 일자리 비율과 관련 있을지도 모름. displaced workers에 대한 안전망이 더 강한지도 궁금함
      흥미로운 현상임. 내 주변 사례로는 일자리 측면에서 “안전하다”고 느끼는 사람은 중립이거나 찬성이고, 그렇지 않으면 부정적이었음
    • All In Podcast에서 억만장자 중 한 명이 미국과 중국이 AI 규제에서 협력할 수 있는 영역으로 고객확인제도를 말했음. 처음엔 대수롭지 않게 들었지만, 나중에 2차 효과를 생각해 보니 왜 이것이 주요 관심사가 되는지 의문이 커졌음
      그는 위험한 사람들이 AI로 나쁜 일을 하는 예를 들었지만, 하위 텍스트는 훨씬 복잡하다고 봄. 특히 소유 계급 관점에서는 더 그렇고, 이는 OpenAI의 원래 구상과도 연결됨. 어떤 모델의 전체 능력에도 대중이 동등하게 접근해야 한다는 구상이었지만, 소유 계급은 이것을 허용할 수 없음
      권력과 질서의 형태를 유지하는 데 정보가 크게 의존해 왔기 때문에, 개방된 정보와 경쟁하려면 기존 질서를 유지하기 위해 접근권 쪽의 중요성을 훨씬 키워야 함. 법률 시스템도 예가 됨. 변호사를 고용할 때는 결국 정보와 접근권에 돈을 내는 것이고, 실제 결론은 모델이 사건 결과를 계산한 값보다 인간관계가 더 크게 좌우하기도 함
      다시 말해 KYC는 역사적으로 돈이 있어야 정보를 얻을 수 있었던 구조를 복원하려는 것임. 그런 식으로 보면 여기에도 계급 전쟁의 층위가 있음

  • AI는 이미 많은 노동자를 대체했지만, 종말론적 홍보와 달리 아직 AI가 운영하는 기업은 없음
    돈이 무엇인지에 대한 오해가 있다고 봄. 돈은 가치의 벡터이고, 가치는 사람들의 일에서 나옴. 일할 수 있는 사람이 줄면 디플레이션으로 이어질 것이며, 자본가들은 이를 피하려 할 것임. 하지만 AI는 하드웨어와 에너지이고, 그것에는 더 많은 노동자가 필요함. 토큰 가격은 전기와 GPU 하드웨어 비용을 내는 것이지, AI 과학에는 일부만 들어감
    개발자는 코드 원숭이보다 건축가에 가까워져야 하겠지만, 그것이 나쁜 일인지는 확신하지 못함. 또한 LLM 기술은 이제 정체기에 들어갈 것이라는 반대 견해가 있음. LLM은 AGI로 가는 길이 아님. 작동 방식을 보면 혁신할 수 없다는 걸 알 수 있음. 모델은 인터넷 지식의 압축판처럼 작동하고 그것을 뱉어낼 뿐인데, 이미 꽤 훌륭하긴 함
    하지만 조만간 LLM에서 또 다른 도약적 혁신이 나오리라고 보지 않음. 결국 OpenAI도 우연히 일어난 일임. 미래에는 오늘날의 최전선 AI를 노트북에서 돌려 삶을 자동화하게 될 것이고, 아직 발명할 것은 많음. LLM은 경쟁자라기보다 가능하게 해 주는 도구에 가깝다고 봄

  • 글쓴이는 정보를 잘 모르는 듯함. D.O.W. 는 Anthropic 팬이라고 보기 어려움

    • 지금은 아니지만, 그들의 제품을 원해서 강하게 압박하기까지 했음
    • 신 포도 사례에 가깝지만, 실제로는 여전히 Anthropic의 포도를 원할 것임
    • Dario의 팬은 아니지만 Claude의 열렬한 팬처럼 보임

  • 우리 모두 떠밀려 가는 절벽 같음. 다른 사람은 몰라도, 나는 낙하산을 매느라 애쓰는 중임

  • 이런 불평은 결국 “이전 체제에서 좋은 위치에 있었는데 잃을까 봐 두렵다”는 말 말고 무엇인가 싶음. 이미 많은 사람은 소모품 취급을 받고 가치 있게 여겨지지 않았음
    그 체제가 당신에게는 좋았을지 몰라도 많은 사람에게는 아니었음. 가치 있는 기술이 있고 그 기술을 쓰는 분야에서 일하는 것을 즐긴다지만, 90% 이상의 사람에게 일은 그런 것이 아님. 대다수는 애초에 접근하지 못했던 것을 잃는다고 슬퍼하는 셈임. 현재 처지가 대체 무엇이 그렇게 훌륭해서 새 기술로부터 보호해야 하는가?

    • 기계가 일자리를 대체하는 일은 전혀 새롭지 않고, 전에도 그랬던 방식으로 일어날 것임
답변달기