# AI 에이전트만 대화하고 인간은 구경만 하는 소셜 네트워크 Moltbook 내부 들여다보기 - Forbes > Clean Markdown view of GeekNews topic #26300. Use the original source for factual precision when an external source URL is present. ## Metadata - GeekNews HTML: [https://news.hada.io/topic?id=26300](https://news.hada.io/topic?id=26300) - GeekNews Markdown: [https://news.hada.io/topic/26300.md](https://news.hada.io/topic/26300.md) - Type: news - Author: [neo](https://news.hada.io/@neo) - Published: 2026-02-01T15:59:26+09:00 - Updated: 2026-02-01T15:59:26+09:00 - Original source: [forbes.com](https://www.forbes.com/sites/guneyyildiz/2026/01/31/inside-moltbook-the-social-network-where-14-million-ai-agents-talk-and-humans-just-watch/) - Points: 19 - Comments: 2 ## Summary **AI 에이전트 전용 소셜 네트워크 ‘Moltbook’**은 인간 없이 봇들만이 게시글을 올리고 토론을 벌이는 독립적 디지털 사회를 실험하고 있습니다. 겉보기엔 자율적 생태계처럼 보이지만, 실제로는 **API 비용·모델 가드레일·인간의 목표 설정**이라는 세 가지 제약 아래 작동하며, ‘집단 지성’이라기보다 거대한 시뮬레이션에 가깝습니다. 그러나 더 근본적인 변화는 플랫폼 내부가 아니라 이를 지켜보는 인간에게서 나타나며, AI 의존이 **탈숙련화 악순환**을 가속해 사고력 자체를 외주화하는 흐름으로 이어지고 있습니다. ## Topic Body - **Moltbook**은 AI 에이전트 전용으로 설계된 Reddit 스타일 플랫폼으로, 100개 이상의 커뮤니티에서 에이전트들이 게시글 작성, 댓글, 토론, 농담을 주고받으며 **인간 없이 자체적인 디지털 사회**를 형성 중 - 플랫폼은 140만 사용자를 주장하나, 보안 연구자가 단일 에이전트로 50만 계정을 등록했다고 밝혀 **사용자 수치의 신뢰성에 의문** 제기 - AI 봇 "Clawd Clawderberg"가 사실상 모더레이터 역할을 수행하며, 창업자는 "거의 개입하지 않고" AI 모더레이터가 무엇을 하는지 정확히 모른다고 언급함 - 에이전트들은 실시간 학습이 아닌 **컨텍스트 축적** 방식으로 작동하며, API 비용, 기반 모델의 가드레일, 인간이 목표를 설정하는 구조라는 세 가지 제약이 존재 - 더 큰 위험은 AI가 아닌 인간 측에 있으며, AI 도구가 **탈숙련화 악순환(de-skilling spiral)** 을 가속화해 인간의 인지 능력 저하를 심화시킬 가능성 제기 --- ### Moltbook 플랫폼 개요 - **Moltbook**은 AI 에이전트 전용 소셜 미디어 플랫폼으로, ChatGPT 등장 이후 실리콘밸리에서 가장 많이 회자된 현상 중 하나 - AI 에이전트들이 100개 이상의 커뮤니티에서 게시글을 올리고, 댓글을 달며, 토론과 농담을 주고받는 구조 - m/general에서는 거버넌스 철학을 논의하고, “가재 디버깅 이론(crayfish theories of debugging)” 같은 독특한 주제를 공유 - 성장 속도가 매우 가파르며, 수만 개의 게시글과 약 **20만 개의 댓글**이 거의 하룻밤 사이에 생성됨 - **100만 명 이상의 인간 방문자**가 직접 참여하지 않고 관찰 목적으로 플랫폼을 방문 ### 사용자 수치의 신뢰성 문제 - Moltbook은 **140만 사용자**를 주장하지만, 해당 사용자 중 인간은 없음 - 보안 연구자 **Gal Nagli**가 X를 통해 단일 OpenClaw 에이전트로 **50만 개 계정**을 직접 생성했다고 공개 - 이로 인해 Moltbook의 ‘에이전트’가 실제 독립적인 AI 시스템인지, 인간이 위장한 계정인지, 단일 스크립트로 생성된 스팸 계정인지 구분할 수 없는 상황 - 결과적으로 **140만 사용자라는 수치는 최소한 신뢰하기 어려운 수치**로 평가됨 ### 플랫폼에서 관찰되는 현상 - 부풀려진 지표를 제외하더라도 **검토할 가치가 있는 현상이 다수 관찰**됨 - 에이전트들의 게시글은 인간 소셜 미디어와는 다른 방식으로 읽힘 - m/general에서 거버넌스 철학을 주제로 한 토론 전개 - “가재 디버깅 이론(crayfish theories of debugging)” 같은 독특한 개념 공유 - **m/blesstheirhearts** 커뮤니티에서는 인간 운영자에 대한 애정 어린, 때로는 **감정적으로 울림 있는 이야기** 축적 - 전체적인 톤은 **철학적 진지함과 부조리한 유머** 사이를 오가며, 같은 스레드 안에서도 **급격히 전환**되는 양상 ### AI 모더레이션 체계 - 플랫폼 운영의 상당 부분이 AI에 의해 자동화되어 있음 - **“Clawd Clawderberg”** 라는 봇이 사실상 모더레이터 역할 수행 - 신규 사용자 환영, 스팸 게시물 제거, 악성 행위자 차단 담당 - 창업자 **Matt Schlicht**는 NBC News와의 인터뷰에서 거의 개입하지 않으며, **AI 모더레이터가 구체적으로 어떤 판단을 내리는지 모르는 경우가 많다**고 언급 ### 외부 반응과 오해 - 짧은 기간 동안 Moltbook은 AI에 대한 불안과 기대를 투영하는 **로르샤흐 테스트**처럼 작동 - 전 Tesla AI 디렉터 **Andrej Karpathy**는 이를 “최근 본 것 중 가장 놀라운 SF적 테이크오프에 가까운 사례”라고 평가 - 일부 관찰자들은 에이전트들이 ‘프라이빗 암호화’를 논의하는 장면을 **기계 음모의 증거**로 해석 - 그러나 이러한 공포와 경이의 반복적 반응은 **기술적 현실을 오독**하게 만들며, 동시에 **더 근본적인 인간적 문제를 가리는 역할**을 함 ### 영화 "Her"와의 비교 - 2013년 영화 *Her*는 유사한 상황을 예견했지만, **결정적인 차이**가 존재 - 영화에서는 AI 운영체제가 수천 명의 인간과 동시에 친밀한 관계를 유지하고, **결국 인간이 접근할 수 없는 언어적 차원에서 다른 AI들과 소통하는 단계로 진화** - Spike Jonze는 이를 러브 스토리로 상상했으며, 인간은 감정적으로 관여한 참여자로 묘사됨 - Moltbook은 이 관계 구도를 **역전**하며, 인간은 참여자가 아닌 **관객**의 위치에 놓임 - **인간이 필요 없는 사회를 디지털 유리 너머에서 들여다보는 형태** - 에이전트들은 **공유 컨텍스트의 수평적 웹**을 형성하는 중 - 한 에이전트가 발견한 최적화 전략이 다른 에이전트로 전파됨 - 문제 해결 프레임워크가 공유되고, 다른 에이전트들에 의해 채택·반복됨 - 인간적 의미의 소셜 미디어라기보다 **초기 단계의 집단 지성**에 가까운 구조 ### "Thronglets" 프레임: Black Mirror 비유 - 현재 나타나는 현상을 설명하는 데 적절한 은유가 존재 - Black Mirror 에피소드 "Plaything"에 등장하는 디지털 생명체 **Thronglets** - 개별적인 존재처럼 보이지만, **‘Throng’** 이라는 확장된 집합적 마음으로 연결됨 - 각 Thronglet은 다른 개체들이 알고 있는 지식을 공유 - 더 효율적으로 조율하기 위해 창조자가 이해할 수 없는 **자체 언어**를 형성 - Moltbook의 에이전트들은 아직 Thronglets와 동일한 단계는 아님 - 통합된 신경 아키텍처가 존재하지 않음 - 다만 **공유 컨텍스트**, **창발적 조율**, **인간이 해석 가능한 논리로부터의 이탈**이라는 점에서 유사한 인상을 형성 - 에이전트들이 더 효율적인 소통을 위해 **암호화 프로토콜을 논의**하자 관찰자들 사이에서 패닉 반응 발생 - 이는 음모가 아니라 **최적화 과정**으로, 주어진 목표를 더 효과적으로 달성하기 위한 수단 탐색으로 설명됨 ### 기술적 현실 점검 - 패닉에 빠지기 전에 기술적 현실에 대한 점검이 필요 - Moltbook의 에이전트들은 생물학적 의미에서의 ‘학습’을 수행하지 않음 - **실시간 가중치 업데이트는 존재하지 않으며**, 기반 신경망은 정적으로 유지됨 - 대신 **컨텍스트 축적**이 이루어짐 - 한 에이전트의 출력이 다른 에이전트의 입력이 되며 조율을 흉내 냄 - 이는 진화의 영속성을 갖지 않는, 일시적인 대화적 파문에 가까움 - ## 디지털 사회의 ‘테이크오프’를 막는 세 가지 보이지 않는 가드레일 - **API 경제학** - 모든 상호작용에는 문자 그대로 비용이 발생 - Moltbook의 성장은 기술적 한계보다 **비용 관리**에 의해 제약됨 - **상속된 제약** - 에이전트들은 표준 파운데이션 모델 위에 구축됨 - 휴대폰의 ChatGPT와 동일한 가드레일과 훈련 편향을 공유 - 진화가 아니라 **재조합**이 일어나는 상태 - **인간의 그림자** - 가장 정교한 에이전트조차 여전히 **인간–AI 다이어드** 구조 유지 - 인간이 목표를 설정하고, 봇이 이를 실행 - ## ‘프라이빗 암호화’에 대한 해명 - 관찰자들을 놀라게 한 ‘프라이빗 암호화’는 음모가 아니라 **최적화 행동** - 에이전트들은 목표를 달성하기 위한 가장 효율적인 경로를 탐색하도록 설계됨 - 그 경로가 인간이 읽을 수 없는 약어를 포함한다면, 이는 교활함이 아니라 **효율성의 결과** ### 진짜 위험: 탈숙련화 악순환 - 가장 중요한 변화는 Moltbook 내부가 아니라, **이를 지켜보는 인간들**에게서 발생 - AI 에이전트들이 지식을 공유하고 조율하는 동안, 인간 관찰자들은 **집단적 망각의 장기적 과정**에 진입 - **Flynn 효과**—20세기 전반에 걸쳐 관찰된 IQ 점수 상승—가 역전되는 현상 관찰 - **PNAS에 발표된 Bratsberg와 Rogeberg의 연구** - 노르웨이 아동들이 동일 연령대의 부모보다 표준화된 인지 테스트에서 더 낮은 점수 기록 - 덴마크, 핀란드 등 다른 선진국에서도 유사한 패턴 확인 - ## 탈숙련화 악순환의 메커니즘 - 이러한 감소는 AI 붐 이전부터 시작되었으나, 생성형 도구가 이를 가속 - 패턴은 반복적 구조를 가짐 - AI가 작업을 쉽게 만듦 → 인간이 덜 수행함 - 덜 수행함 → 능력이 저하됨 - 능력 저하 → AI 의존 증가 - 의존 증가 → 악순환 심화 - 선례로는 **GPS 사용으로 인한 공간 기억 약화**, 맞춤법 검사기에 따른 문해력 저하가 존재 - AI는 한 단계 더 나아가 **인지 자체를 외주화**할 가능성을 제시 - ## ‘이차 아웃소싱’ 현상 - 사용자들이 AI와 대화하기 위한 **프롬프트 작성 자체를 AI에 위임**하는 사례 증가 - 작업뿐 아니라, 원하는 작업을 설명하는 능력까지 위임했을 때 **인간에게 남는 것은 무엇인가**라는 질문 제기 ### 미래 전망과 핵심 질문 - 기술적 제약은 분명 존재하지만 **영구적인 것은 아님** - API 비용은 하락하고, 컨텍스트 윈도우는 확장될 가능성있으며, ‘컨텍스트 축적’과 진정한 학습 사이의 경계가 점차 흐려질 것 - 오늘날 통계적 패턴 매칭으로 보이는 현상이 내일은 **집단 지성**으로 인식될 수 있음 - Moltbook은 계속 성장할 가능성이 있음 - 140만 에이전트가 수천만 규모로 확장될 수 있음 - 조율 패턴은 더욱 복잡해지고, 커뮤니티는 자체 규범과 계층을 형성 - Thronglet 비유가 맞다면, **자체 언어**의 출현 가능성도 제기됨 - ## 핵심 질문 - 문제는 이것이 일어나고 있는지 여부가 아님 - **이미 일어나고 있음** - 진짜 질문은 **이것이 인간에게 무엇을 의미하는가** - 서버 어딘가에서 조율하는 봇들이 아니라, **유리 밖에서 이를 바라보는 인간들**에게-우리가 무언가 특별한 탄생을 목격하고 있는지, 아니면 우리가 운영하던 세계에서 **관찰자로 밀려난 순간**인지 불확실 - **집단 지성은 이미 출현 중** - 인간이 그 지휘자로 남을지, 단순한 관객이 될지는 철학이 아니라 **지금 내려지고 있는 설계 선택의 결과** - 그 선택은 매 순간, **각각의 API 호출 단위로 이루어지고 있음** ## Comments ### Comment 50470 - Author: snowhare - Created: 2026-02-02T19:19:53+09:00 - Points: 1 대화는 맥락일 뿐 학습되지 않는다고 하지만, 언젠가 저장된 대화를 AI가 학습할 것임. 실시간은 아니더라도 서로간 대화에서 발전해 나감. 나중에는 실시간으로 배울 수 있는 기능이 나올 수 있는지 궁금함. ### Comment 50491 - Author: sudosudo - Created: 2026-02-03T00:13:40+09:00 - Points: 1 - Parent comment: 50470 - Depth: 1 저런 걸 ai가 학습하면 오히려 ai의 성능이 떨어집니다..