나는 이제 합리주의자인 것 같음

• Scott Aaronson은 Berkeley의 LessOnline 참석 뒤, 오랫동안 거리를 두던 합리주의자(Rationalist) 정체성을 이제 받아들일 수 있다고 봄
• 행사에서 가장 강하게 남은 것은 공식 세션보다 Lighthaven 곳곳에서 이어진 소규모 대화였고, 참석자들에게 세션을 건너뛰고 깊은 대화를 하라는 권유까지 나옴
• 과거 가장 큰 거리감은 AI가 곧 초인적으로 강력해질 수 있다는 집착이었지만, 최근의 AI 경험적 변화 이후 그 반대 입장을 철회하고 AI alignment 연구에도 시간을 쓰고 있음
• 문화적 차이, 컬트 같은 분위기, 외부 조롱에 대한 두려움도 있었지만, LessOnline에서는 결혼·자녀가 있는 참석자, 공개 논쟁, 세대교체된 리더십을 직접 봄
• 외부 비난보다 직접 본 경험을 더 신뢰하겠다는 입장으로, 기존 정체성과 신념은 유지한 채 합리주의자 커뮤니티를 자신의 지적 공동체 중 하나로 받아들임

---

LessOnline에서 본 사람들과 공간

• Scott Aaronson은 LessOnline에 참석해 Scott Alexander, Eliezer Yudkowsky, Zvi Mowshowitz, Sarah Constantin, Carl Feynman 등 오래 알고 지낸 사람들을 만남
• 온라인으로만 알던 Joe Carlsmith, Jacob Falkovich, Daniel Reeves도 직접 만남
• 행사는 Berkeley Telegraph Avenue 인근의 Lighthaven에서 열렸고, 통로·회의실·숙소·정원·덩굴이 얽힌 공간으로 묘사됨
• 올해 LessOnline에서 Aaronson은 두 가지 행사를 진행함
  • Nate Soares와 Orthogonality Thesis에 관한 대화
  • 양자컴퓨팅과 이론컴퓨터과학에 대한 AMA

세션보다 컸던 대화의 장

• 가장 기억에 남은 것은 공식 세션보다 행사장 전역에서 아침부터 밤까지 이어진 수백 명의 병렬 대화였음
• 개회 세션에서는 참석자들에게 가능한 한 많은 세션을 건너뛰고 강도 높은 소그룹 대화를 하라고 권유함
  • 그 방식이 더 낫다는 점과 세션룸이 너무 작다는 점이 이유였음
• 건물 사이를 이동하는 데도 몇 시간이 걸릴 수 있었고, 명찰을 본 사람들이 약 5피트마다 질문을 던졌다는 식으로 표현함
• Scott Alexander와의 대화에서 Aaronson은 이제 합리주의자가 될 준비가 된 것 같다고 말했고, Alexander는 이미 10년 전, 다시 고쳐 20년 전에 입문했다고 답함

합리주의자들과의 지적 충돌

• 합리주의자라고 밝힌 뒤 처음 한 일은 Scott Alexander, Joe Carlsmith 등과 자신의 12년 전 에세이 Ghost in the Quantum Turing Machine을 두고 벌인 격론이었음
• Aaronson의 논지는 생물학적 삶의 비가역성과 일시성이 디지털 컴퓨터 프로그램의 복사 가능성·되감기 가능성과 대비된다는 데 있음
• 이 차이는 우주의 초기 상태에 담긴 미시적 세부사항, 양자역학의 No-Cloning Theorem, 뇌 활동 중의 혼돈적 증폭과 연결될 수 있다고 봄
• 그는 이런 요소가 자유의지와 의식 같은 문제를 다룰 때 더 깊은 세계의 층을 가리키는 단서일 수 있다고 봄
• 이 논쟁은 합리주의자들의 합의와 자신의 믿음 사이에서 가장 큰 충돌 지점을 드러내려는 시도이기도 했음

그동안 합리주의자라고 하지 않았던 이유

• Aaronson은 자신의 기존 정체성이 바뀐 것은 아니라고 선을 그음
  • 컴퓨터과학자
  • 학계 구성원
  • 민주당 일괄 투표자
  • 자유주의적 시오니스트
  • 유대인
• 첫 번째 이유는 약 15년 전 합리주의자들이 AI가 곧 초인적으로 강력해지고 지구상의 삶의 기본 조건을 바꿀 수 있다는 문제에 집착하는 모습이 이상하게 느껴졌기 때문임
• 이후의 경험적 전개가 그의 반대 입장을 흔들었음
  • 합리주의자들이 AI에 대해 크게 틀린 점은 혁명이 얼마나 빨리 일어날지를 과소평가한 것이라고 봄
  • 필요한 새 아이디어의 수는 과대평가했고, 실제로는 더 많은 컴퓨트와 학습 데이터가 주된 요인이었다고 봄
  • 현재 Aaronson도 일부 시간을 AI alignment 연구에 쓰며, LessOnline에서 동료들과 연구 미팅도 진행함

문화적 거리감과 변화

• 두 번째 이유는 생활양식과 문화의 차이였음
  • 합리주의자들은 Berkeley와 San Francisco 기반의 여러 자체 조직에서 일하는 20대가 중심이라는 인상이 있었음
  • 그룹하우스, 성적 취향, 젠더 정체성, 페티시, 때로는 환각제와 결부된 문화가 있다고 봤음
• Aaronson은 자신을 그 문화와 거리가 있는 인물로 대비함
  • 이성애자
  • 일부일처 관계
  • 중년의 종신재직 교수
  • 같은 직업의 배우자와 결혼
  • 일반 학교에 다니는 두 아이를 양육
• 시간이 지나면서 합리주의자 중 상당수가 결혼, 자녀, 또는 둘 다를 갖게 됐다고 봄
• LessOnline에서 Lighthaven 캠퍼스를 뛰어다니는 유아들이 많았던 장면도 인상적으로 남음
• 일부는 명시적 출산장려 이념이나 Bryan Caplan의 Selfish Reasons to Have More Kids에 설득됐고, 다른 일부는 오래 이어진 인간의 충동을 따른 것이라고 봄
• LessOnline의 양육 세션에서는 자녀를 독립적이고 주체적이면서도 사회화되고, 기술에 밝지만 iPad 게임에 중독되지 않게 키우는 문제를 다룸
  • 수학을 빠르게 배울 수 있는 학교 선택
  • 지루한 학교 경험을 피하는 방법
  • 자녀의 “enrichment”를 위해 부모의 삶을 얼마나 희생할지
  • Judith Rich Harris가 말한 노력의 체감효과를 얼마나 신뢰할지

컬트 우려와 실제로 본 모습

• 세 번째 이유는 합리주의자들이 Eliezer Yudkowsky를 구루로 둔 컬트 같은 분위기를 일부 풍겼다는 점이었음
• Eliezer는 비유와 선문답처럼 글을 쓰고, 지구상의 생명 운명이 걸려 있으며 그 이해자들에게 미래를 이끌 부담이 있다고 가르친다고 봄
• 그러나 Lighthaven에서 본 모습은 Beatniks, Bloomsbury Group, 초기 Royal Society처럼 무언가를 믿는 공동체와 닮은 정도였음
• Eliezer가 나타났을 때도 다른 사람들과 마찬가지로 논쟁의 대상이 됨
• 리더십은 상당 부분 새 세대로 넘어갔다고 봄
  • Nate Soares와 Zvi Mowshowitz는 AI 위험을 말하는 새 방식을 찾음
  • Scott Alexander는 지난 10년 동안 커뮤니티의 지적 중심이 된 블로그를 씀
  • Kelsey Piper, Jacob Falkovich, Aella 등은 합리주의를 주류 정치 참여부터 다른 방향까지 확장함
• 다만 Bayes’ theorem과 Tarski의 진리 정의에 관한 AI 생성 팝송에 맞춰 춤추는 경험은 “cringe”하게 느껴지기 어렵다고 인정함

외부 조롱보다 직접 본 경험

• 가장 깊은 망설임은 합리주의자라고 밝히면 학계 동료나 인터넷의 무작위 사람들이 자신을 비웃을지 모른다는 두려움이었음
• 그는 이 커뮤니티의 매력을 너무나 합리적으로 설명해 조롱을 잠재울 방법을 오랫동안 찾았다고 함
• 5년 전에는 Cade Metz의 New York Times 기사, RationalWiki, SneerClub 등의 비난 때문에 합리주의자 커뮤니티가 붕괴할 수 있다고 느꼈음
• LessOnline에서 본 커뮤니티는 오히려 어느 때보다 번성하고 있었음
  • 실제 캠퍼스
  • 다양한 주제의 뛰어난 필자들
  • 그곳을 있어야 할 장소로 느끼는 사람들
  • 아이들까지 있는 공동체

정치·성별 관련 비난에 대한 반응

• 합리주의자들이 Curtis Yarvin 같은 극우 군주주의자에 가깝다는 비난에 대해, Aaronson은 _The New Yorker_의 Yarvin 프로필을 인용함
• LessOnline에서 그가 본 가장 오른쪽에 가까운 정치 세션은 Kelsey Piper와 전·현직 의회 보좌진이 함께한 세션이었음
  • 주제는 moderate Democrats가 대중에게 통하는 pro-abundance agenda를 제시하고 MAGA를 이길 전망이었음
• 합리주의자들이 incel이라는 비난에 대해서는, Jacob Falkovich가 주로 남성 nerd 참석자들의 데이트 관련 두려움을 다루고 여성 합리주의자들이 관점을 답한 세션을 예로 듦
• 관계 중인 사람들을 위한 세션으로는 Eliezer의 파트너이자 전 커플 상담사인 Gretta Duleba의 관계 갈등 세션도 있었음

바뀌지 않은 사람, 새로 받아들인 공동체

• Aaronson은 합리주의자에 대한 조롱꾼들의 비난보다 자신이 직접 본 것을 믿겠다고 함
• 자신이 “mask off”했다는 말을 듣더라도, 가면 아래에는 원래와 같은 사람이 있다고 말함
• 그는 Busy Beaver function과 BQP/qpoly를 좋아하고, 계몽주의를 강하게 지지하는 사람으로 자신을 정리함
• 가족, 학계 동료, 합리주의자 커뮤니티, 블로그 독자들 속에서 자신이 내놓는 것을 원하는 사람들을 찾았다고 봄

[GN⁺]

Hacker News 의견들

• 이 글을 읽고 이 운동 전체가 왜 거슬리는지 더 깊이 생각하게 됨
  사물을 합리적으로 보려는 태도와 제1원리에서 추론하려는 태도 사이에 내재적 긴장이 있는데, 커뮤니티 전반의 절대주의적 말투가 특히 거슬림. “내 생각은 이렇지만 놓친 각도가 있을 수 있고 틀릴 수도 있다”는 식의 겸손이 거의 안 보이고, 어떤 주제에 의견이 없거나 “모르겠다”고 말하는 걸 부끄러워할 사람들처럼 보임
  AI 이전에는 그럭저럭 참을 만했지만, 이후에는 세상이 끝난다고 확신하며 과열되는 모습이 AI의 함의를 우리가 아직 온전히 이해하지 못할 수 있다는 겸손을 전혀 보여주지 못함. 어쩌면 AI는 예상보다 훨씬 온건하고 지루한 방향으로 갈 수도 있음

  • Effective Altruism 쪽과 비슷하게, 가상의 논리 사고실험에 말려들어 순수 논리로 도달했다는 이유만으로 미친 결론에 갇히는 느낌이 있음
    처음 조건이 매우 인위적이면 결론도 학술적 가치 정도밖에 없다는 걸 놓침. 이런 건 “자기 엉덩이에 머리를 처박는 것”이라고 부를 수 있음. 문제는 이런 사람들이 “오직 논리”를 썼으니 틀릴 수 없다는 절대적 우월감을 풍긴다는 점임. 10대나 20대 때 이런 식으로 빠지는 경우가 많지만, 보통은 누군가 머리를 한 대 치며 그만하라고 해줌. 돈과 인터넷이 충분하면 그런 제동을 피해서 자기만의 방 안에 들어갈 수 있음
  • 정말 그 집단을 너무 넓게 싸잡아 보는 건 아닌가 싶음
    이들이 블로그 글에 epistemic status: mostly speculation 같은 문구를 붙이는 흐름을 만든 사람들 아닌가. 과신의 위험에 대한 글도 쓰고, 예측이 얼마나 틀렸는지도 재고, “내가 틀렸던 것들의 목록” 같은 페이지도 유지함
  • 숨 가쁘게 특이점주의자들이 AI 정렬을 걱정하는 건, 자기개선도 초인간도 아닌 더 평범한 AI 위험을 명확히 보지 못하게 하는 연막처럼 늘 보였음
    알고리즘 편향, 정책 세탁, 에너지 비용, 부의 집중 가속 같은 현실적 위험이 있음. 또 이 흐름은 이른바 장기주의로 이어져서, 지금의 실제 문제를 해결하는 이익은 깎아내리고 언젠가 모든 걸 무의미하게 만들 것이라 보는 가상의 문제 해결에만 집중하게 만듦
  • Scott Alexander의 블로그, 예전 Slate Star Codex나 지금의 Astral Codex X를 읽어봤다면 그런 평가는 좀 다르게 보일 수 있음
    의심과 자기검토가 가득하고, 본인의 실수 목록도 공개로 유지함: https://www.astralcodexten.com/p/mistakes
    내게 “합리주의자 커뮤니티”와의 접점은 이 블로그뿐이지만, 여기서는 자만심보다 정반대에 가까운 느낌을 받음
  • “합리적”이라는 말은 자기들과 동료들의 메탄가스를 만들고 들이마시는 능력을 가리는 연막처럼 늘 보였음
    Stanford 여자들에게 “넌 항상 옳은 초천재 양자물리학자 수학자”라는 말을 듣는 게 즐거웠다는 건 이해함. 그래도 제발 품위는 좀 갖추고, 시골 Indiana에서 손톱 밑에 흙 묻히며 할 수 있는 좋은 일도 생각해보면 좋겠음

• 논리는 그리스 철학자에서 컴퓨터 게이트까지 우리를 데려온 훌륭한 도구임
  순수 합리주의의 어려움은 사고가 출발하는 제1원리를 검증하는 데 있음. 원리가 틀렸거나 중간의 복잡성을 놓치면 논리는 사람을 엉뚱한 곳으로 이끌 수 있음
  빠진 제1원리의 예로 Aristotle을 볼 수 있음. 역사상 가장 위대한 논리학자 중 한 명이 많은 잘못된 결론에 도달했음
  복잡성을 놓친 예로 자연선택은 제1원리 사고가 아니라 경험적 분석에서 나왔다는 점이 있음. 이론상 전자로도 가능했겠지만 너무 복잡했음 [1]
  그렇다고 논리를 깎아내리는 건 아니고, 답은 언제나 잠정적 겸손을 동반해야 한다는 뜻임. 그래도 Scott Aaronson의 열성 팬임
  [0] https://www.wired.com/story/aristotle-was-wrong-very-wrong-b...
  [1] https://www.jstor.org/stable/2400494

  • 여기서 말하는 합리주의자들은 경험주의를 배척한 Cartesian 합리주의자가 아니라 베이즈 경험주의자에 가까움
    베이즈 확률은 Aristotle에게 없었던 Boolean 논리를 연속 실수 확률로 확장하는 유일한 방식으로 드러남. 이들이 스스로를 “합리주의자”라 부르는 건 경제학의 “합리적 베이즈 행위자” 이상 때문인 듯함
    다만 이들에게는 “우주의 결합 조건부 확률분포 위에서 그냥 추론할 수는 없다”는 표어가 있음. 즉 AIXI는 계산 불가능하고, AIXI조차 계산 가능한 확률분포 위에서만 추론할 수 있음
  • 논리학은 무엇이 참인지, 그리고 무엇이 증명 가능한지를 다루는 학문임
    가장 이상적인 조건에서는 둘이 같음. 논리학은 무엇이 참인지를 다루는 모형이론과 무엇이 증명 가능한지를 다루는 증명이론으로 나뉘었음. 오늘날 합리주의의 상당 부분은 닻이 풀린 증명이론처럼 보임. Kant의 "The Critique of Pure Reason"을 읽으면 좋을 사람이 많음
    복잡한 시스템에서는 참인 것이 증명 불가능할 수 있고, 증명 가능한 많은 것이 참이 아닐 수도 있음. 그래서 추론만큼이나 분별력을 갈고, reasoning뿐 아니라 reckoning도 연습하는 게 중요함. “진실의 울림”을 듣는 느낌이라고 생각하지만, 이는 반증 불가능하므로 스스로 그런 느낌을 믿을 때도 회의적이어야 함. 그건 더 깊은 탐구로 가는 안내자일 뿐 최종 목적지가 아님
    많은 사람이 생각에 의해 길을 잃음. 생각은 매혹적임. 생각이란 무의식적 완성으로 가는 길 위의 의식적 걸림돌일 뿐이라고 더 자주 말해야 함
  • Aristotle을 조금 변호하자면, 그의 불완전한 논리와 형이상학은 그래도 이전 사람들이 하지 않았거나 체계적으로 하지 못했던 세계의 여러 측면을 탐구하는 강력한 토대를 제공했음
    그의 공동체는 생물학의 경험적 연구를 피하지 않았음. 그들도 여러 사안에서 잘못된 결론에 이르렀지만, 오히려 후대가 그것에 도전하지 않은 점을 탓해야 함
  • “도구”라는 단어는 아무리 강조해도 지나치지 않음
    논리는 도구이지 “절대 진리를 들여다보는 마법 창문”이 아님. 도구는 어떤 일에는 좋고 어떤 일에는 나쁠 수 있음
  • 잠정적 겸손이 가치 있는 첫 밈이 되면 좋겠음
    Provisional Humility의 컬트를 만들 필요가 있음. pH를 높여야 함

• 지금 Yudkowsky의 Rationality: from AI to zombies를 읽는 중임
  블로그 글 모음이라 반복이 심해서 처음 시도했을 때는 50장쯤 읽고 포기했지만, 지금은 주제에 더 관심이 생겨서 훨씬 재미있게 읽고 있음
  그의 글을 파고들지 않았거나 컬트 같은 외양 때문에 밀려난 사람에게 말하자면, 그는 진짜로 뭔가를 잡고 있음. “Belief in Belief”, “Emergence”, “Generalizing from fiction”처럼 일상적 사고에 꽤 유용한 실천적 아이디어가 많음
  예를 들어 순전히 의미론적 논쟁을 많이 겪었음. 뭔가에 동의하지 않는 것처럼 보이지만 양쪽이 사실 같은 현상을 가리키고 있지 않은 경우임. 같은 단어를 서로 다르지만 관련된 “대상”에 쓰는 것이 불일치의 원천임. 명백해 보이지만 보통은 뒤늦게 깨닫는 종류이고, 지금은 실시간으로 알아차릴 준비가 훨씬 잘 된 느낌임. 한번 시도해볼 만함

  • 합리성의 커뮤니티 측면은 기껏해야 의심스러움
    하지만 문헌에서 설명하는 사고 도구들은 아주 중요한 단서 하나를 붙이면 귀중함. “나는 합리주의자니까 저 사람보다 더 맞다”고 생각하는 순간 합리주의자로서 실패한 것임
    정말 쉽게 저지를 수 있는 실수임. 도구를 효과적으로 쓰려면 이전보다 더 겸손해져야지, 그렇지 않으면 설득이 불가능한 재수 없는 사람이 됨. “사실 내가 맞다”를 “와, 내가 틀렸을 수도 있겠다”보다 더 자주 말한다면 합리주의자로서 실패한 것임
  • 철학, 문학, 역사 배경이 부족한 STEM 계열 사람들이 그 분야의 기본 아이디어를 몰래 포장해서 보여주면 크게 감명받는 차익거래가 있는 듯함
    이 경우가 그렇다는 말은 아니지만, 이런 주제들은 수천 년 동안 논의되어 왔으므로 Yudkowsky가 새 지평을 열었다고 보기 전에 적어도 놀라워해야 함
  • 이런 순수한 “의미론적” 논쟁은 Wittgenstein이 언어게임이라고 부른 것과 같아 보임
  • 시간은 차라리 그의 대작 Harry Potter and the Methods of Rationality를 읽는 데 쓰는 편이 나을 수도 있음
    https://hpmor.com/
  • 정보 수집의 역사를 다루는 Yuval의 책 Nexus와 가까워 들림

• Scott Aaronson을 나쁘게 생각한 적은 없고, 우연히 그의 글과 작업을 접할 때마다 자주 감탄했음
  그런데 이 글에서 이 사람들이 자기들만의 “Galt's Gultch”에 모여 있는 모습을 읽고는 “아, 이제 그는 코뿔소가 됐구나”라고 생각했음
  https://en.wikipedia.org/wiki/Rhinoceros_(play)
  나쁜 농담 하나 하자면, “rationalist”와 “rationalizer”의 차이는 무엇인가? 인센티브뿐임

  • Scott Aaronson은 유명한 합리주의자들 중에서는 늘 가장 덜 나쁜 쪽이라고 생각해왔음
    그래서 Scott Siskind가 알려주기 전까지 본인이 합리주의자라는 걸 몰랐다는 점이 조금 웃김
  • “rationalist”와 “rationalizer”의 차이는 인센티브뿐이라는 문장은 나쁜 농담이 아니라 크게 액자에 넣어 걸어야 할 말임

• 분위기 기반 판단이지만, Rationalists는 받을 만한 것보다 더 많은 독설을 받는 것 같음
  곰곰이 생각해보면 이유는 세 가지임. 첫째, 이들은 공동체라서 내부 집단이 있고, 거기에 속하지 않으면 정의상 외부 집단이 됨. 사람들은 남의 외부 집단이 되는 걸 좋아하지 않음
  둘째, 이들은 특이한 의견을 갖고 공개적으로 말함. 사람들은 자기와 다른 의견을 표현하는 사람을 좋아하지 않는 경향이 있음
  셋째, 이들은 nerd임. 역사적으로 nerd들이 괴롭힘이나 배척을 당한 원인을 이들도 아마 갖고 있을 것임

  • 합리주의자 커뮤니티는 전혀 배타적이지 않음. 스스로 합리주의자라고 선언하고, epistemic status 문구가 붙은 블로그를 쓰고, 자신을 합리주의자라고 부르면 들어갈 수 있음
    비판은 멋진 클럽이 사람들을 들여보내지 않아서 생기는 게 아님
    오히려 문제는 이들이 이단적 아이디어와 다양한 관점 수용을 말하면서도, 많은 사안에서 놀랄 만큼 보조를 맞춘다는 데 있음. 밖에서 보면 한 합리주의자 블로거가 어떤 주제의 씨앗을 심고, 다른 사람들이 그것을 사실처럼 받아들이는 과정이 쉽게 보임
    몇 년 전 어떤 합리주의자 블로거가 물속의 미량 리튬이 비만을 유발한다는 긴 글을 썼고 Astral Codex Ten의 금전 지원까지 받았음. 실제 전문가들이 처음부터 연구 해석 오류, 통계 남용, 더 중요한 요인 무시를 짚었는데도, 수년간 합리주의자 커뮤니티 안에서 뭔가의 증거처럼 공유됐음
    문제는 다른 의견이 아니라, 이들이 실제 전문성을 무시하고 모순되는 증거를 외면한 채 어떤 주제를 서툰 제1원리 평가로 다루는 일이 매우 잦다는 점임
  • 여기에 더 중요한 요인이 있음. 이들은 인터넷에서 눈에 잘 띄고, 존재 방식도 주로 인터넷 기반임
    따라서 이들을 평가하는 사람도 주로 인터넷에 있고, 인터넷 담론은 대체로 밋밋하게 부정적인 방향으로 흐름. 아이러니하게도 이 댓글 자체도 그 온건한 예임
  • 추가 요인 하나를 보태자면, 평균보다 지능이 높다고 여겨지는 사람들이 모여 인간 사고의 산물이나 숙고 자체를 다루는 집단은, 명시적 지능 문턱이나 문지기질이 없어도 거의 반드시 속물성/질투의 공격을 받음
    노골적으로 말하면, 조금이라도 똑똑하면서도 “아이고 별말씀을요”처럼 굴지 않는 건 허용되지 않음. 그 똑똑함은 의학이나 회계사 같은 다른 목적에 봉사해야 함. 통계 수업에서 봤던 재미있는 사실로, 평균 CPA는 평균 의사보다 IQ가 약 5점 높음
    물론 자기 엉덩이 속으로 추락해 사라질 위험이 항상 있으니 어느 정도 정당화되기도 함. 동시에 이런 태도는 많은 사람을 의심 한 점 없이 전진하는 멍청한 관리자와 바보들 밑에 묶어두기도 함
  • HN은 합리성을 꽤 가혹하게 판단함
    논란 많은 인물인 Mr. Beast에 대한 이 스레드[1]를 보면 상위 댓글들이 전부 꽤 너그럽다는 점이 보임. 그 대화와 이 글의 댓글을 비교하면 꽤 웃김
    이론상 HN이 아주 좋아해야 할 사람인 Scott Aaronson, 양자역학을 엄청나게 많이 알고 매우 친절하고 똑똑하다는 평을 받는 사람이 합리성을 좋아한다고 말했을 뿐인데 Mr. Beast보다 덜 관대하게 다뤄짐. 이상하지 않나?
    [1]: https://news.ycombinator.com/item?id=41549649
  • “분위기 기반”이라는 말은 곧 경험적 관찰이라는 뜻 아닌가

• 대문자 R Rationalism 주변 주제를 다룬 책 중 가장 유용한 것은 Elizabeth Sandifer의 "Neoreaction, A Basilisk: Essays on and Around the Alt-Right" [1]일 가능성이 큼
  명목상 주제는 Alt-Right지만, 실제로는 현재 미국 정치에서 지배적인 신반동 운동을 키운 대문자 R Rationalist 커뮤니티와 인물들에 대한 내용이 훨씬 많음. 2010년의 정치적·지적 위치에서 지금까지 어떻게 왔는지 이해하는 데 아마 가장 좋은 책임
  https://www.goodreads.com/book/show/41198053-neoreaction-a-b...

  • rationalists에 대한 책을 원하면서, Wikipedia 페이지에서 심각한 중립적 관점 위반으로 차단된 사람이 지시한 비방서가 싫다면 Chivers의 The AI Does Not Hate You와 Rationalist's Guide to the Galaxy가 좋다고 들었음
    단, Chivers는 우리를 좀 좋아하는 편이라 한쪽 책을 좋아하면 다른 쪽은 싫어할 가능성이 큼
  • “아마 가장 유용한 책”이라기보다 “아마 내 편견을 가장 잘 확인해주는 책”이라는 뜻으로 들림
  • “신반동 운동을 키웠고 현재 미국 정치에서 지배적”이라는 식의 표현은 외집단을 흠집내기 위한 매우 논쟁적인 세계관을 제시하는 것임
    Hacker News를 정치적·이념적 전장으로 쓰지 말라는 원칙에도 맞지 않음. 더구나 그 비방은 연좌제에 기대고 있는데, 많은 사람은 원칙적으로 이를 부당하다고 볼 것이고, 대충 살펴봐도 잘 맞지 않음
    다른 관점도 잠깐은 볼 필요가 있음. "Reliable Sources: How Wikipedia Admin David Gerard Launders His Grudges Into the Public Record" https://www.tracingwoodgrains.com/p/reliable-sources-how-wik...에는 Sandifer, Gerard의 가까운 동료, 가 rationalism에 관여한 방식과 인용한 저작의 편향에 대한 긴 해설이 있음
  • 아이러니하게도 이 주제를 꺼내면 언제나 논의가 주제가 아니라 전달자에 대한 인신공격으로 바뀜
    rationalists가 싫어한다고 주장하는 바로 그 논증 방식인데, 자기 커뮤니티에 불편한 주장이 나오면 반복해서 등장함. 저자 때문에 내용을 무시하거나 “비방”처럼 느껴진다는 이유로 주장을 인정하지 않는 댓글들은, 주장을 그 자체의 장점으로 판단할 능력이 없다고 인정하는 셈임
    인신공격으로 치우지 않고 실제 주제를 다루고 싶다면, Scott Alexander가 왜 신반동 주제를 자주 다루는지 직접 쓴 글을 읽어보는 게 좋음: https://www.reddit.com/r/SneerClub/comments/lm36nk/comment/g...
    일부 인용을 보면, Reaction이나 gender에 대해 쓰면 블로그 조회수와 새 팔로워가 5배쯤 늘고, 팔로워는 중요한 아이디어를 퍼뜨리고 중요한 사람들과 연결되는 능력을 키워주기 때문에 개인적 이유가 있다고 함. 또 Reactionary thought의 좋은 부분을 퍼뜨리고 싶다고도 함
    자신을 꽤 똑똑하고 감 잡은 사람으로 보지만, Reactionaries에게서 범죄 관련 내용, WWII 역사, HBD 같은 새롭고 중요한 것들을 계속 배운다고도 함. 여기서 HBD는 “human biodiversity”로, alt-right가 인종주의, 특히 서로 다른 인종의 상대적 지능에 주목하는 인간 분류를 부르는 선호 용어임. Scott Alexander의 작업에서 이상하게 반복되는 주제이기도 함. 그는 공개적으로는 부정하면서 사적으로는 매우 맞다고 여길 것임을 팔로워에게 암호화해 알리는 블로그 글까지 썼음

• 여기서 아이러니한 점은 Rationalist 커뮤니티가 “Rationalist라고 정체화하는 것”이 일반적으로 합리적 결정이 아니라는 걸 알아챌 만큼 관찰력이 없었던 사람들로 이루어졌다는 점임

  • 내가 본 바로는 그런 사람들, 그 문제를 피하는 사람들, 실제로는 믿지 않으면서도 의도적으로 그러는 사람들이 섞여 있음

• Rationalist 커뮤니티가 그냥 허풍 덩어리가 아니라고 납득시켜줄 만한 링크가 있다면 정말 보고 싶음
  HPMOR의 앞 3분의 1을 읽었지만 글이 별로였고, 더 중요하게는 고차원의 합리주의 사고로 “눈을 뜨게” 해주지 않았음. 얻은 건 “그래, 원래 HP 이야기는 모순과 멍청함이 많았고, 등장인물이 진짜 똑똑하면 다른 이야기가 되겠지” 정도였음
  EY 에세이와 LessWrong 글도 꽤 읽으면서 마음을 산산이 깨는 아이디어가 뭔지 찾으려 했음. “지도는 영토가 아니다”는 당연하고, “증거에 따라 믿음을 갱신하라”는 종교를 빼면 누가 반대하는지 모르겠고, “사람은 편향되어 있으니 극복해야 한다”도 뻔하고, “증거와 원하는 결과에 맞춰 결정하라”는 조언도 고맙긴 함
  이 철학 전체는 반쪽짜리 노트로 정리 가능해 보이고, 대부분은 고개를 끄덕이며 “맞네”라고 할 듯함

  • 자기계발서가 유용한 이유는 마음을 뒤흔드는 아이디어가 있어서가 아니라, 자기일관적이고 꽤 일관된 조언을 한곳에 모아두기 때문임
    같은 방식으로 rationalist의 지식 탐색 전략도 마음을 뒤흔드는 것이 아니라 그저 합리적임. 주변 세계에서 더 효과적으로 행동하기 위해 따를 규칙 묶음을 제시함
    반쪽짜리 노트를 넘어가는 합리주의의 부분은 대체로 이 합리적인 인식론 규칙들에서 이어져 나오는 여러 하류 결론들임
  • “증거에 따라 믿음을 갱신하라”에 누가 반대하냐고 했지만, 이 스레드의 댓글 수십 개가 거의 그 예시임
    예를 들어 Effective Altruism이 실제로 무엇을 하는지 강한 의견을 내는 사람들이 있는데, https://www.givewell.org/charities/top-charities는 구글 한 번이면 나옴. 그런데 강한 의견을 올리기 전에 확인할 필요를 느끼지 않음
    1위 댓글은 rationality 커뮤니티가 “제1원리에서 추론하려 한다”고 말하지만, 실제로는 그 반대임. 어떤 댓글은 Scott Alexander 글을 링크하고 Scott이 뭔가를 예측했다가 틀렸다고 주장하는데, 링크된 글에서 Scott은 그 일에 30% 확률을 준다고 말함. 즉 안 일어날 확률을 70%로 본 것임. 또 다른 댓글은 그걸 “완전히 합리적이지만 비판적인 댓글”이라고 옹호함
    HN은 인터넷 대부분보다 똑똑한 곳이고 토론 규범도 평균 이상이지만, 여기 사람들도 실제로 사안에 대해 덜 틀리려는 데 별 관심이 없어 보임. 그것도 비교적 쉽게 확인할 수 있는 것들에서조차 그럼
    핵심 아이디어는 그런 방식이 실제로 작동하는 커뮤니티를 만드는 것임. 증거를 제시하면 추천받고, 근거 없는 비난이 틀린 것으로 드러나면 비추천받는 식의 규범이 대체로 작동하는 곳임
    여기에 믿음을 실제 숫자를 써서 확률로 표현하려는 아이디어도 있음. 그래서 EY가 Bayes' Theorem 이야기를 멈추지 못하는 것임. 실제로 사람들은 그렇게 함

• 이건 정말 거대한 한 덩어리였음. 특히 Cade Metz라는 실존적 위협이 마음에 들었음
  하지만 결국 Chicago의 위대한 예언자가 이렇게 말했을 때 전체를 제대로 짚었다고 봄
  “-ism은 좋지 않다고 생각한다. 사람은 -ism을 믿어선 안 되고 자기 자신을 믿어야 한다. John Lennon의 말을 인용하면, ‘나는 Beatles를 믿지 않는다. 나 자신을 믿을 뿐이다.’ 좋은 지적이다. 결국 그는 walrus였다. 나도 walrus일 수 있다. 그래도 여전히 남에게 차를 얻어 타야 하겠지만”

  • rationalists가 비판자를 깎아내릴 때 “직접 만나보니 착하더라”를 내세우는 방식은 늘 흥미로움
    정말 기묘한 밈임. Curtis Yarvin이 rationalist 모임인 “Vibecamp”에 가서 유명 Twitter rationalists 몇 명에게 친절하게 굴었고, 이제 그들은 Twitter에서 그를 열렬히 방어함. 논거 전체가 “만나봤는데 착했다”임
    내집단과 외집단의 선이 그어지는 순간 이들의 철학에서 합리주의 부분이 창밖으로 날아가는 게 놀라움. Cade Metz를 꺼내는 건 오래된 신호인데, “우리 편이냐 아니냐”의 전투로 효과적으로 바꾸면서 Cade Metz가 가져왔을 수도 있는 타당한 논점을 완전히 무시했기 때문임
    그러고 나서 신반동주의자들을 대할 때는 혐오를 넘어 그들의 주장 속 좋은 부분에 집중해야 한다고 말하는 걸 보면, 이 운동 전체가 스스로 생각하는 것만큼 진실 추구에 관한 것이 아닐 수도 있겠다는 생각이 듦
  • “사람은 -ism을 믿어선 안 되고 자기 자신을 믿어야 한다”에도 -ism이 있음
    보는 각도에 따라 solipsism, narcissism 등 몇 가지가 있음
  • 이데올로기는 사람들이 그것이 존재하지 않는다고 생각할 때 가장 강력함
  • Rationalists가 사실 차가 없는 파시스트 아나키스트들인 건 아닌지 진심으로 걱정됨

• 한때 effective altruism/rationalism 쪽에 깊이 빠진 여성에게 관심이 있었음
  몇 번 모임에 같이 갔지만 내 안의 반골 기질이 좋아하지 않았음. 몇 년이 지나서야 전체가 얼마나 컬트처럼 느껴졌는지 깨달았고, 내 날 선 무신론자 반골 성격이 성욕보다 우선해서 그 무리와 엮이지 않게 해준 게 어느 정도 다행이라고 생각함