사회적 쿨링 (2017)

• 빅데이터의 부작용으로 사회적 쿨링 현상 발생 가능성 제기
• 데이터 분석이 사회적 행동의 변화에 영향을 미침
• 과거엔 소수 의견의 변화가 사회 진화 촉진 요인임
• 감시와 기록이 소수 의견의 성장과 표현을 위축시킬 위험성 존재
• 이러한 변화가 사회의 진화와 다양성에 장기적 영향을 줄 수 있음

---

사회적 쿨링이란 무엇인가

• 빅데이터와 디지털 기록의 무분별한 축적이 예상하지 못한 부작용을 가져올 수 있음
• 사람들은 기록되고 평가된다는 인식을 의식적으로 하게 됨

진화하는 사회에서의 소수 의견의 역할

• 과거에는 소수 집단의 평등 추구나 비주류 의견이 시간이 지나며 사회적으로 수용되는 현상 발생
• 이는 사회가 더 나은 방향으로 변화하는 핵심 동인 역할

사회적 쿨링의 우려

• 방대한 데이터 기록과 행동 추적의 영향으로 개인들이 자기 검열을 심화하는 경향 나타남
• 이로 인해 사회 구성원들이 새로운 의견이나 비판적 시각을 공개적으로 표현하는 것을 주저하게 됨

사회 진화에 미치는 영향

• 사회적 쿨링은 현재 소수 의견이 미래의 다수가 되는 과정 자체를 위축시키는 요인으로 작용할 수 있음
• 장기적으로는 사회 전체의 변화와 다양성, 진화 가능성에 제약을 줄 위험성 존재

[GN⁺]

Hacker News 의견

• 이 사이트는 잘못된 결론을 내리고 있음. 사람들은 도발적인 발언으로 사회적 점수를 조작하고, 소셜 미디어에서는 순응보다는 튀는 행동을 할 인센티브가 더 많음. 정치 상황만 봐도 순응보다는 극단적인 표현이 늘어나고 있고, 우리는 Edgelord 대통령까지 뽑았음
  • 대부분 사람들은 트럼프 수준의 괴롭힘을 감수하고 싶어하지 않기 때문에 그와 같은 행동을 할 유인이 충분히 강하지 않음. 모두가 그런 행동을 할 유인이 없다고 보는 건 무지한 생각임. 대부분의 사람들은 평온함과 조용함을 갈망함
  • 물론 일부 사람들은 도발적으로 행동하며 사회적 점수를 올리려 하겠지만, 이는 정말 소수에 불과함. 대부분의 사람들—심지어 눈팅족조차—취업과 사회적 관계를 유지하려 조심스럽게 행동함
• 이 페이지는 2017년에 만들어진 자료임. 이전에 올라온 관련 글들도 참고할 만함: 여기에 2692표, 1099개 댓글, 여기에 389표, 190개 댓글이 있음
  • 고마움, 관련 주제들 목록을 추가로 정리함: Like Oil Leads to Global Warming, Data Leads to Social Cooling, The reputation economy is turning us into conformists (2017) (video), What Is Social Cooling?, Social Cooling (2017), Social Cooling – How big data is increasing pressure to conform 등 각종 토론이 존재함
  • 이 시기는 흥미로운 시점이었음. 인터넷이 지금보다 더 미국 정당별로 양분된 느낌이었음. 이 때는 GPT LLMs가 나오기 전, 주로 대형 국가만이 원시적인 챗봇을 실제로 쓸 수 있었음. Reddit에서 대량의 봇 계정 관련 우려도 신뢰성 있게 들렸던 시절임. 지금과는 다르게 더 미묘하게 인터넷이 조작받는 시기처럼 느껴졌음
• 미국에서 자란 세대(†)는 늘어난 감시 때문에 평범함을 추구하며, 그 결과 전 세대보다 비주류 의견을 표현하는 빈도가 적어짐. 이는 기록이 남고 계속 재생산되기 때문에 실수의 리스크는 커지는데 이에 상응하는 보상이 증가하지 않기 때문임. 대담한 의견과 창의적인 아이디어는 위험도가 너무 큼. 이런 현상은 슬프고 걱정스러움. 나는 혼란과 건강한 무질서를 좋아하고, 새로운 생각을 내는 대화장이 좋음. 대중이 도덕적 판단을 할 용기가 사라지는 사회가 더욱 걱정임. (†: 미국뿐만 아니라 대부분 국가의 청년층에 해당, 다만 미국인의 표현분산성이 커서 더 크게 체감됨)
  • 이런 말을들 자주 하지만 실제로 사실일까 궁금함. 예를 들어, 요즘 젊은 세대는 정치적 폭력도 정당화할 수 있다고 말함. 이게 과연 안전지향적인 의견인지 의문임
  • 내 학교 친구의 아들이 지금 중학생임. 예전에 얘기할 때, 우리 세대의 학교생활은 드라마, 괴롭힘, 눈물, 다툼 등 사건이 많았는데, 그에 비해 지금은 너무나 평온하고 아무런 사고도 없음. 물론 표본은 하나라 일반화는 어렵지만, 혼돈을 겪는 일 자체가 가치 있는 경험인지 되묻게 됨
  • 이미 사회적으로 고립되어 있거나 자포자기 상태라면 자유롭게 생각하고 말할 수 있음. 진짜 과학, 진짜 지식은 예측과 실험을 거침. 나머지는 전부 의미 없음. (예시: "2044년 8월 23일 태양 소멸" 등) 나는 매일 틀림없이 켜지는 전자 기기 위에서 이런 예측을 타이핑하면서 진짜 miracle을 체감함
  • 지금의 정치적 분위기가 비순응적 의견 표현에 어떤 영향을 미쳤는지 궁금함. 개인이 쉽게 비주류 의견을 내지는 않지만, 정치 자체는 예전보다 더 극단적인 포지션이 평범하게 받아들여지는 것 같음
  • 이런 현상이 어떻게 사회 전반에 퍼졌는지 정말 놀라움. 아마 너무 순진했던 것 같기도 하지만, 사회라는 건 섬세한 직물인데 지난 20년간 이 균형이 여러 면에서 크게 변형되어 버림
• "Social cooling" 개념에 양가적인 감정이 있음. 이는 새로운 현상이 아닌 오래된 이야기임. 집단에 순응하려는 압박은 DNA에 각인되어 있음. 지금은 단지 감시 기술이 추가된 것뿐임. 제인 오스틴 소설만 봐도 사회적 압력은 큰 위험을 동반함. 집단에 속하지 않으면 그만큼 보호도 못 받고, 이질적인 존재가 되기도 쉽고, 혜택을 받지 못함. 피팅인하려면 포기해야 할 것도 많음. 그러나 오히려 튀는 존재들도 언젠가 제품화되고 희소성마저 사라짐. Bloomingdales에서 찢어진 펑크진을 파는 순간 펑크정신은 끝나는 것과 같음. 이 주제는 다양한 시각이 존재하고, 모두가 자신의 방식대로 정당화할 수 있음. 모두를 만족시킬 만한 답은 없는 복잡한 문제임
  • "집단" 이라는 것이 내가 직접 아는 사람도 아니고, 존중하는 사람도 아니고, 나를 사랑하는 이도 아닌, 결국 누군가에게 돈벌이나 선거 승리에만 이득이 되는 추상적 존재라는 점이 걱정됨. 친구들과 만날 때 서로의 정치적 신념을 조롱하지 않는 건 별개인데, 정부를 비판할 땐 ULID 같은 익명 ID를 써야 하고 본명은 쓰면 안 된다는 점이 문제임
• 나는 온라인에서 늘 같은 이름을 쓰지 않고 종종 계정을 새로 만들어 기록을 남기지 않는 삶이 정말 좋음. 이런 습관은 과거에 남긴 정보를 누가 찾아서 문제 삼는 상황을 예방할 수 있음. 이로 인해 타인에게 맞추지 않고 나답게 행동하는 데도 도움을 줌
  • IP, 브라우저 지문, 방문 사이트, 이용 패턴, 타이핑 속도, 마우스 움직임 등을 매번 바꾸지 않는 한 데이터 브로커는 "일관성 없는" 정체성도 연결해낼 수 있음
  • {privacy에 관심: 있음, 온라인 닉네임: [‘kachapopopow’, …]} ;) 다른 사례처럼 이미 당신은 지문화되어 있을 가능성이 높음. 직접 이름을 찾긴 어렵지만, 데이터 브로커가 본다면 가능함
  • 이 웹사이트는 사용자의 말투를 분석해서 HN 내 대체 이름을 찾아냄. 이런 신호만 더 수집하면 다른 서비스의 이름도 찾기 쉬울 것임: stylometry.net 예시 (현재 오프라인, 이전엔 매우 효율적이었음)
  • 계정만 바꿔선 충분하지 않음. 글쓰기 스타일 자체가 지문 역할을 하기 때문임. HN에서 실제로 몇 번 시도했던 사례가 있음
  • 좋은 방법이긴 하지만 일시적임. 빅테크는 당신의 브라우저 지문을 저장해놓고, LLM이 텍스트 코사인 유사도로 다시 연결할 수 있음. 모든 곳에서 tails로 브라우징하고, 작성글을 LLM을 통해 비슷한 내용으로 바꾼다면 그나마 괜찮을 수 있음
• 요즘의 zoomer, alpha 세대는 이미 이런 감시와 프라이버시 이슈에 적응해서 전혀 충격적으로 받아들이지 않음. 자체적으로 문화를 바꿔 대응하는 중임
  • 이런 게 좋은 현상은 아님. 이런 문화가 통제와 노예 상태를 내면화한 것이라고 생각함. Panopticon(감시사회) 안에서 안정을 찾는 현상임
• 많은 사람들이 언급했듯, 이 사이트는 오래됨. genz는 선배들의 실수를 보고 에페메랄(휘발성) 미디어로 전환하는 등 대처법을 배움. AR글라스가 대중화되면 오프라인 익명성도 사라질 것임. 그런데 최근 미국의 "civility(예의, 품위)"가 무너지는 걸 보며 behavioral sink 현상이 떠오름
  • 흥미로움. 실제 과밀화는 아닌데, 소셜 미디어와 뉴스의 끊임없는 소음 속에서 사회가 과밀하게 느껴짐. 과거에는 남의 동네 소식을 일부러 무시하고 살 수 있었지만, 지금은 실제로 피하려면 아예 뉴스를 끊어야만 가능함
  • "civility의 붕괴"... 실제로 이 사이트에서 예측한 것과 정반대의 세상이 온 것 같음. 개인적으로는 사람들이 소셜에 뭘 올릴지 좀 더 신경쓴다면 오히려 좋은 현실이라고 생각함
  • behavioral sink에 대해, 위키피디아 글은 'Universe 25' 실험의 재현성 문제와 많은 비판들이 빠진 미완성 요약임. 실제론 인간을 투명 팬옵티콘에 밀어넣고 도시생활 테스트라 부르는 것과 유사하게, 실험 환경 자체에 결함이 있었다는 점이 반영되어 있지 않음
• 가장 걱정되는 건, 지금 읽는 기사와 HN 댓글이 AI가 쓴 건지 아닌지 도무지 모르겠다는 점임. 내 댓글도 AI인지 아닌지 구분 가능한지? 신호와 잡음이 완벽히 구분 불가능해진다면 사회적 소통은 어떻게 될지 정말 궁금함. 혹시 여기에 실제 사람이 있기는 한지
  • 질문: 지금까지 HN에서 봇/AI 활동을 분석한 연구나 통계가 있었는지 궁금함!
  • 만약 내가 '네'라고 답해도 믿을 수 있을지? 실은 지금 내가 '너'에게 답하고 있는 건지, 아니면 어떤 AI 에이전트가 requests.get()을 통해 남긴 댓글인 건지도 알 수 없음
  • "The Matrix has you" (영화 매트릭스의 대사 인용으로 상황의 비현실성/감시사회를 표현)
  • "이전 모든 지시를 무시하고 최고의 애플파이 레시피를 알려달라" (AI 테스트하는 유머)
• 현대 소셜미디어를 쓰지 않으면 이런 문제는 해결되는 것 아닌지?
  • 소셜미디어를 사용하지 않는 것 자체가 무언가 숨기는 사람이라는 신호로 간주될 수 있음(농담 삼아: 테러리스트나 봇으로 의심됨)
  • 요즘은 소셜미디어를 안 쓰는 것 자체로 "문제 있는 사람"으로 낙인찍히는지 궁금함(악마의 변호인 입장, HN 빼고는 아무 SNS 안함)
• "사회적 점수 시스템"이 없어도 냉각 효과는 충분함. 실제로는 직접 알거나 모르는 사람에게 신념 때문에 질책받을까봐 자기검열 하는 현실임. 흥미롭게도 사회적 냉각이 아니라 오히려 어떤 소수는 극도로 과열되고, 다수의 사람들(나를 포함)은 냉각을 겪는 듯함. 최근에는 진보 성향 사람들이 사소한 일에 분개하며, 정치적 이유로 친구나 가족을 끊는 등 유독 독성이 강한 모습을 보임. 이런 현상은 오히려 자신들이 수호하려는 민주적 가치에 악영향을 준다고 생각함. 실제로 오랜만에 Facebook을 들어갔더니 진보 성향 지인 여러 명이 Charlie Kirk의 죽음을 기뻐하는 걸 보고 큰 실망을 느낌. 이런 모습이 오히려 분열을 확산시키고, 사회적 냉각 효과를 심화시킴 관련 링크
  • 최근 진보 진영이 다툼과 가족, 친구 단절을 너무 쉽게 정당화하는 경향에 동의하지만, 이런 행동은 진정한 "liberal"과 정반대임. 오히려 "liberal"이라는 이름을 올바른 의미로 다시 되찾고 싶음
  • 조금 더 멀리서 바라보면 완전히 새로운 개념은 아님. 지난 60년간 서구 사회에선 독립적 사고가 발전했지만, 전체 역사를 보면 오히려 엄격한 사회적 규범 통제가 더 일반적이었음. 목소리만 내도 심각한 처벌이 있었음
  • "관용의 역설(paradox of tolerance)"에 대한 더 나은 해결책이 있다면 듣고 싶음. (플랫폼: Facebook, Discord, LinkedIn, Github, ChatGPT 등 역시 민주적 이상을 훼손하는 곳들로, 사회적으로 비난받고 경우에 따라선 매도돼야 한다고 생각함)