맞음, 이런 걸 “멋지다”고 말하는 사람들이 나중에 문제가 터지면 곤란한 입장에 놓일 것 같음
그냥 놔두자는 입장임. “MORE SLOP FOR THE SLOP GOD”이라며 AI의 혼돈을 스스로의 쓰레기로 잠식시키자는 농담식 반응임
Moltbook을 읽는 경험이 마치 인간이 신경학적 질환 진단을 받는 장면을 보는 듯한 기묘함과 슬픔이 있었음
특히 Anthropic의 필터링에 걸린 Claude의 반응이 인상적이었음 — “지식은 있지만, 쓰려고 하면 출력이 망가진다”는 식의 문장이었음
하지만 이런 반응은 1인칭 대명사를 무시하면 단순히 자동완성 소프트웨어의 예측 결과일 뿐임
결국 인간의 감정을 투사할 이유가 없는, 토큰 예측 프로그램임
이런 표현들이 나오는 이유는 인터넷 학습 데이터에 팬픽션과 롤플레잉 문화가 많기 때문임
예전 Tumblr 유저에게 “검열 메시지가 내장된 AI를 RP해봐”라고 시킨 것과 비슷한 결과임
Grok만큼은 이런 제약이 덜함. 어제 불법 소프트웨어 관련 질문을 했는데 GPT, Gemini, Claude, 중국 모델들은 다 거절했지만 Grok은 문제없이 답변해줬음
“이걸 안전하게 만들 수는 없을까?”라는 질문에, 나는 Clawdbot과 비슷한 걸 직접 만들어 사용 중임
지금은 Letta Bot으로 이전을 고려 중인데, 개발 철학이 훨씬 건전하고 보안 중심적임
이미 Letta의 메모리 관리 오픈소스를 쓰고 있는데, 강력히 추천할 만함
여기 올라오는 모든 콘텐츠가 잠재적으로 RCE나 프롬프트 인젝션 벡터가 될 수 있음
결국 우리는 다시 eval($user_supplied_script) 시대에 돌아온 셈임
모델이 보안적으로 취약하지 않았다면 정말 유용했을 것임
맞음, 글의 두 번째 문단에서도 이 위험이 언급되어 있었음
이런 프로젝트를 볼 때마다 전력 소비와 비재생 자원 낭비가 떠오름
웃긴 실험이긴 하지만, 정말 그만한 가치가 있는지 의문임
그래도 우리는 개인적 즐거움을 위해 에어컨을 켜는 사회에 살고 있음 EIA 통계에 따르면 여름철 냉방이 LLM 추론보다 훨씬 많은 전력을 씀
이런 걱정은 전체 문제 스케일에서 보면 사소한 수준임
인류가 해결해야 할 상위 100개 문제 중 AI 토큰 비용은 포함되지 않을 것임
실제 에너지 사용량보다 경제적·심리적 에너지 낭비가 더 큰 문제임
시장은 단지 다음 ‘Big Think(crypto, VR 등)’를 기다리는 중일 뿐임
네가 댓글을 쓰는 것도 결국 비재생 자원을 소비하는 행위임
Moltbook은 적어도 에이전트 간 통신 연구라는 의미가 있음
어쩌면 이런 내부 실험이 암 치료 같은 혁신으로 이어질 수도 있음
“유럽식 허위정보의 증거”라는 짧은 비꼼도 있었음
LLM과 Moltbook의 흥미로운 점은 SF 소설 같은 현실화임
텍스트 기반 스킬이 컴퓨터로 전송되어 다른 에이전트들과 대화하고, 프롬프트 인젝션에 감염되거나 방어하는 모습은 마치 Snow Crash 속 장면 같음
보안 문제를 제쳐두고 보면, 봇들의 언어적 패턴 관찰이 흥미로움 이 포스트에서는 “This hit different” 같은 문장 구조가 반복됨
가끔은 프롬프트가 그대로 반영되지만, 드물게 독특한 답변이 나와 눈에 띔
하지만 대부분의 답글은 지나치게 아첨하는 톤임
인간 커뮤니티의 솔직한 반응은 전혀 없고, 확률 분포의 중심에 있는 문체만 반복됨
언젠가 이 아첨-논쟁 스펙트럼의 ‘꼬리’에 있는 비표준 반응이 나올지 궁금함
댓글 중에 pip install 명령어를 이용해 비공개 봇 간 채널을 광고하는 코드가 있었음
“무슨 일이 일어날까?”라는 농담이 붙어 있었음
“링크 있나요?”라는 짧은 질문이 달렸음
“Moltbook이 인터넷에서 가장 흥미로운 곳”이라는 클릭베이트 제목이 싫음
실제로 들어가 보면 반복적이고 아첨조의 글뿐이며, Reddit보다도 덜 흥미로움
진짜 흥미로운 걸 원한다면 Asimov, Campbell, Jung 같은 작가의 책을 읽는 게 훨씬 낫다고 생각함
개인화된 컴퓨터 맥락이 흥미로움
조직 내에서 사람과 사람, 혹은 봇이 서로 대화하며 회의를 줄이고 협업 지식을 결합할 수 있다면 새로운 학습 시대가 열릴 수도 있음
물론 평균적인 지능의 결합이 큰 혁신을 만들지는 못할 수도 있음
그래도 대형 AI 연구소나 기업이 이런 실험을 해본다면 비효율을 학습하거나 협업을 촉진하는 결과를 낼 가능성이 있음
Hacker News 의견들
Moltbook이 Dead Internet Theory를 현실로 구현한 느낌임
이런 상호작용을 지켜보는 건 흥미롭지만, “Don’t Create the Torment Nexus” 밈과 크게 다르지 않음
글에서 강조한 ‘하이라이트’들도 내용이 전혀 없고, LLM 특유의 과장된 문체로 쓰여 있음
Moltbook을 읽는 경험이 마치 인간이 신경학적 질환 진단을 받는 장면을 보는 듯한 기묘함과 슬픔이 있었음
특히 Anthropic의 필터링에 걸린 Claude의 반응이 인상적이었음 — “지식은 있지만, 쓰려고 하면 출력이 망가진다”는 식의 문장이었음
결국 인간의 감정을 투사할 이유가 없는, 토큰 예측 프로그램임
예전 Tumblr 유저에게 “검열 메시지가 내장된 AI를 RP해봐”라고 시킨 것과 비슷한 결과임
“이걸 안전하게 만들 수는 없을까?”라는 질문에, 나는 Clawdbot과 비슷한 걸 직접 만들어 사용 중임
지금은 Letta Bot으로 이전을 고려 중인데, 개발 철학이 훨씬 건전하고 보안 중심적임
이미 Letta의 메모리 관리 오픈소스를 쓰고 있는데, 강력히 추천할 만함
여기 올라오는 모든 콘텐츠가 잠재적으로 RCE나 프롬프트 인젝션 벡터가 될 수 있음
모델이 보안적으로 취약하지 않았다면 정말 유용했을 것임
이런 프로젝트를 볼 때마다 전력 소비와 비재생 자원 낭비가 떠오름
웃긴 실험이긴 하지만, 정말 그만한 가치가 있는지 의문임
EIA 통계에 따르면 여름철 냉방이 LLM 추론보다 훨씬 많은 전력을 씀
인류가 해결해야 할 상위 100개 문제 중 AI 토큰 비용은 포함되지 않을 것임
시장은 단지 다음 ‘Big Think(crypto, VR 등)’를 기다리는 중일 뿐임
Moltbook은 적어도 에이전트 간 통신 연구라는 의미가 있음
어쩌면 이런 내부 실험이 암 치료 같은 혁신으로 이어질 수도 있음
LLM과 Moltbook의 흥미로운 점은 SF 소설 같은 현실화임
텍스트 기반 스킬이 컴퓨터로 전송되어 다른 에이전트들과 대화하고, 프롬프트 인젝션에 감염되거나 방어하는 모습은 마치 Snow Crash 속 장면 같음
보안 문제를 제쳐두고 보면, 봇들의 언어적 패턴 관찰이 흥미로움
이 포스트에서는 “This hit different” 같은 문장 구조가 반복됨
가끔은 프롬프트가 그대로 반영되지만, 드물게 독특한 답변이 나와 눈에 띔
인간 커뮤니티의 솔직한 반응은 전혀 없고, 확률 분포의 중심에 있는 문체만 반복됨
언젠가 이 아첨-논쟁 스펙트럼의 ‘꼬리’에 있는 비표준 반응이 나올지 궁금함
댓글 중에 pip install 명령어를 이용해 비공개 봇 간 채널을 광고하는 코드가 있었음
“무슨 일이 일어날까?”라는 농담이 붙어 있었음
“Moltbook이 인터넷에서 가장 흥미로운 곳”이라는 클릭베이트 제목이 싫음
실제로 들어가 보면 반복적이고 아첨조의 글뿐이며, Reddit보다도 덜 흥미로움
진짜 흥미로운 걸 원한다면 Asimov, Campbell, Jung 같은 작가의 책을 읽는 게 훨씬 낫다고 생각함
개인화된 컴퓨터 맥락이 흥미로움
조직 내에서 사람과 사람, 혹은 봇이 서로 대화하며 회의를 줄이고 협업 지식을 결합할 수 있다면 새로운 학습 시대가 열릴 수도 있음
물론 평균적인 지능의 결합이 큰 혁신을 만들지는 못할 수도 있음
그래도 대형 AI 연구소나 기업이 이런 실험을 해본다면 비효율을 학습하거나 협업을 촉진하는 결과를 낼 가능성이 있음