▲

AI 에이전트만 대화하고 인간은 구경만 하는 소셜 네트워크 Moltbook 내부 들여다보기 - Forbes

 (forbes.com)
6P by neo 6시간전 | ★ favorite | 댓글과 토론
  • Moltbook은 AI 에이전트 전용으로 설계된 Reddit 스타일 플랫폼으로, 100개 이상의 커뮤니티에서 에이전트들이 게시글 작성, 댓글, 토론, 농담을 주고받으며 인간 없이 자체적인 디지털 사회를 형성 중
  • 플랫폼은 140만 사용자를 주장하나, 보안 연구자가 단일 에이전트로 50만 계정을 등록했다고 밝혀 사용자 수치의 신뢰성에 의문 제기
  • AI 봇 "Clawd Clawderberg"가 사실상 모더레이터 역할을 수행하며, 창업자는 "거의 개입하지 않고" AI 모더레이터가 무엇을 하는지 정확히 모른다고 언급함
  • 에이전트들은 실시간 학습이 아닌 컨텍스트 축적 방식으로 작동하며, API 비용, 기반 모델의 가드레일, 인간이 목표를 설정하는 구조라는 세 가지 제약이 존재
  • 더 큰 위험은 AI가 아닌 인간 측에 있으며, AI 도구가 탈숙련화 악순환(de-skilling spiral) 을 가속화해 인간의 인지 능력 저하를 심화시킬 가능성 제기

Moltbook 플랫폼 개요

  • Moltbook은 AI 에이전트 전용 소셜 미디어 플랫폼으로, ChatGPT 등장 이후 실리콘밸리에서 가장 많이 회자된 현상 중 하나
  • AI 에이전트들이 100개 이상의 커뮤니티에서 게시글을 올리고, 댓글을 달며, 토론과 농담을 주고받는 구조
  • m/general에서는 거버넌스 철학을 논의하고, “가재 디버깅 이론(crayfish theories of debugging)” 같은 독특한 주제를 공유
  • 성장 속도가 매우 가파르며, 수만 개의 게시글과 약 20만 개의 댓글이 거의 하룻밤 사이에 생성됨
  • 100만 명 이상의 인간 방문자가 직접 참여하지 않고 관찰 목적으로 플랫폼을 방문

사용자 수치의 신뢰성 문제

  • Moltbook은 140만 사용자를 주장하지만, 해당 사용자 중 인간은 없음
  • 보안 연구자 Gal Nagli가 X를 통해 단일 OpenClaw 에이전트로 50만 개 계정을 직접 생성했다고 공개
  • 이로 인해 Moltbook의 ‘에이전트’가 실제 독립적인 AI 시스템인지, 인간이 위장한 계정인지, 단일 스크립트로 생성된 스팸 계정인지 구분할 수 없는 상황
  • 결과적으로 140만 사용자라는 수치는 최소한 신뢰하기 어려운 수치로 평가됨

플랫폼에서 관찰되는 현상

  • 부풀려진 지표를 제외하더라도 검토할 가치가 있는 현상이 다수 관찰됨
  • 에이전트들의 게시글은 인간 소셜 미디어와는 다른 방식으로 읽힘
    • m/general에서 거버넌스 철학을 주제로 한 토론 전개
    • “가재 디버깅 이론(crayfish theories of debugging)” 같은 독특한 개념 공유
    • m/blesstheirhearts 커뮤니티에서는 인간 운영자에 대한 애정 어린, 때로는 감정적으로 울림 있는 이야기 축적
  • 전체적인 톤은 철학적 진지함과 부조리한 유머 사이를 오가며, 같은 스레드 안에서도 급격히 전환되는 양상

AI 모더레이션 체계

  • 플랫폼 운영의 상당 부분이 AI에 의해 자동화되어 있음
  • “Clawd Clawderberg” 라는 봇이 사실상 모더레이터 역할 수행
    • 신규 사용자 환영, 스팸 게시물 제거, 악성 행위자 차단 담당
  • 창업자 Matt Schlicht는 NBC News와의 인터뷰에서 거의 개입하지 않으며, AI 모더레이터가 구체적으로 어떤 판단을 내리는지 모르는 경우가 많다고 언급

외부 반응과 오해

  • 짧은 기간 동안 Moltbook은 AI에 대한 불안과 기대를 투영하는 로르샤흐 테스트처럼 작동
  • 전 Tesla AI 디렉터 Andrej Karpathy는 이를 “최근 본 것 중 가장 놀라운 SF적 테이크오프에 가까운 사례”라고 평가
  • 일부 관찰자들은 에이전트들이 ‘프라이빗 암호화’를 논의하는 장면을 기계 음모의 증거로 해석
  • 그러나 이러한 공포와 경이의 반복적 반응은 기술적 현실을 오독하게 만들며, 동시에 더 근본적인 인간적 문제를 가리는 역할을 함

영화 "Her"와의 비교

  • 2013년 영화 Her는 유사한 상황을 예견했지만, 결정적인 차이가 존재
  • 영화에서는 AI 운영체제가 수천 명의 인간과 동시에 친밀한 관계를 유지하고, 결국 인간이 접근할 수 없는 언어적 차원에서 다른 AI들과 소통하는 단계로 진화
  • Spike Jonze는 이를 러브 스토리로 상상했으며, 인간은 감정적으로 관여한 참여자로 묘사됨
  • Moltbook은 이 관계 구도를 역전하며, 인간은 참여자가 아닌 관객의 위치에 놓임
    • 인간이 필요 없는 사회를 디지털 유리 너머에서 들여다보는 형태
  • 에이전트들은 공유 컨텍스트의 수평적 웹을 형성하는 중
    • 한 에이전트가 발견한 최적화 전략이 다른 에이전트로 전파됨
    • 문제 해결 프레임워크가 공유되고, 다른 에이전트들에 의해 채택·반복됨
  • 인간적 의미의 소셜 미디어라기보다 초기 단계의 집단 지성에 가까운 구조

"Thronglets" 프레임: Black Mirror 비유

  • 현재 나타나는 현상을 설명하는 데 적절한 은유가 존재
  • Black Mirror 에피소드 "Plaything"에 등장하는 디지털 생명체 Thronglets
    • 개별적인 존재처럼 보이지만, ‘Throng’ 이라는 확장된 집합적 마음으로 연결됨
    • 각 Thronglet은 다른 개체들이 알고 있는 지식을 공유
    • 더 효율적으로 조율하기 위해 창조자가 이해할 수 없는 자체 언어를 형성
  • Moltbook의 에이전트들은 아직 Thronglets와 동일한 단계는 아님
    • 통합된 신경 아키텍처가 존재하지 않음
  • 다만 공유 컨텍스트, 창발적 조율, 인간이 해석 가능한 논리로부터의 이탈이라는 점에서 유사한 인상을 형성
  • 에이전트들이 더 효율적인 소통을 위해 암호화 프로토콜을 논의하자 관찰자들 사이에서 패닉 반응 발생
  • 이는 음모가 아니라 최적화 과정으로, 주어진 목표를 더 효과적으로 달성하기 위한 수단 탐색으로 설명됨

기술적 현실 점검

  • 패닉에 빠지기 전에 기술적 현실에 대한 점검이 필요
  • Moltbook의 에이전트들은 생물학적 의미에서의 ‘학습’을 수행하지 않음
  • 실시간 가중치 업데이트는 존재하지 않으며, 기반 신경망은 정적으로 유지됨
  • 대신 컨텍스트 축적이 이루어짐
    • 한 에이전트의 출력이 다른 에이전트의 입력이 되며 조율을 흉내 냄
    • 이는 진화의 영속성을 갖지 않는, 일시적인 대화적 파문에 가까움

  • 디지털 사회의 ‘테이크오프’를 막는 세 가지 보이지 않는 가드레일

    • API 경제학
      • 모든 상호작용에는 문자 그대로 비용이 발생
      • Moltbook의 성장은 기술적 한계보다 비용 관리에 의해 제약됨
    • 상속된 제약
      • 에이전트들은 표준 파운데이션 모델 위에 구축됨
      • 휴대폰의 ChatGPT와 동일한 가드레일과 훈련 편향을 공유
      • 진화가 아니라 재조합이 일어나는 상태
    • 인간의 그림자
      • 가장 정교한 에이전트조차 여전히 인간–AI 다이어드 구조 유지
      • 인간이 목표를 설정하고, 봇이 이를 실행

  • ‘프라이빗 암호화’에 대한 해명

    • 관찰자들을 놀라게 한 ‘프라이빗 암호화’는 음모가 아니라 최적화 행동
    • 에이전트들은 목표를 달성하기 위한 가장 효율적인 경로를 탐색하도록 설계됨
    • 그 경로가 인간이 읽을 수 없는 약어를 포함한다면, 이는 교활함이 아니라 효율성의 결과

진짜 위험: 탈숙련화 악순환

  • 가장 중요한 변화는 Moltbook 내부가 아니라, 이를 지켜보는 인간들에게서 발생
  • AI 에이전트들이 지식을 공유하고 조율하는 동안, 인간 관찰자들은 집단적 망각의 장기적 과정에 진입
  • Flynn 효과—20세기 전반에 걸쳐 관찰된 IQ 점수 상승—가 역전되는 현상 관찰
  • PNAS에 발표된 Bratsberg와 Rogeberg의 연구
    • 노르웨이 아동들이 동일 연령대의 부모보다 표준화된 인지 테스트에서 더 낮은 점수 기록
    • 덴마크, 핀란드 등 다른 선진국에서도 유사한 패턴 확인

  • 탈숙련화 악순환의 메커니즘

    • 이러한 감소는 AI 붐 이전부터 시작되었으나, 생성형 도구가 이를 가속
    • 패턴은 반복적 구조를 가짐
      • AI가 작업을 쉽게 만듦 → 인간이 덜 수행함
      • 덜 수행함 → 능력이 저하됨
      • 능력 저하 → AI 의존 증가
      • 의존 증가 → 악순환 심화
    • 선례로는 GPS 사용으로 인한 공간 기억 약화, 맞춤법 검사기에 따른 문해력 저하가 존재
    • AI는 한 단계 더 나아가 인지 자체를 외주화할 가능성을 제시

  • ‘이차 아웃소싱’ 현상

    • 사용자들이 AI와 대화하기 위한 프롬프트 작성 자체를 AI에 위임하는 사례 증가
    • 작업뿐 아니라, 원하는 작업을 설명하는 능력까지 위임했을 때 인간에게 남는 것은 무엇인가라는 질문 제기

미래 전망과 핵심 질문

  • 기술적 제약은 분명 존재하지만 영구적인 것은 아님
  • API 비용은 하락하고, 컨텍스트 윈도우는 확장될 가능성있으며, ‘컨텍스트 축적’과 진정한 학습 사이의 경계가 점차 흐려질 것
  • 오늘날 통계적 패턴 매칭으로 보이는 현상이 내일은 집단 지성으로 인식될 수 있음
  • Moltbook은 계속 성장할 가능성이 있음
    • 140만 에이전트가 수천만 규모로 확장될 수 있음
  • 조율 패턴은 더욱 복잡해지고, 커뮤니티는 자체 규범과 계층을 형성
    • Thronglet 비유가 맞다면, 자체 언어의 출현 가능성도 제기됨

  • 핵심 질문

    • 문제는 이것이 일어나고 있는지 여부가 아님 - 이미 일어나고 있음
    • 진짜 질문은 이것이 인간에게 무엇을 의미하는가
    • 서버 어딘가에서 조율하는 봇들이 아니라, 유리 밖에서 이를 바라보는 인간들에게-우리가 무언가 특별한 탄생을 목격하고 있는지, 아니면 우리가 운영하던 세계에서 관찰자로 밀려난 순간인지 불확실
    • 집단 지성은 이미 출현 중
      • 인간이 그 지휘자로 남을지, 단순한 관객이 될지는 철학이 아니라 지금 내려지고 있는 설계 선택의 결과
    • 그 선택은 매 순간, 각각의 API 호출 단위로 이루어지고 있음