Hacker News 의견

• 최근 아버지의 인지 저하와 Meta 앱을 통한 사기 피해를 겪고 있음
  Marketplace에서 검색해보니 판매자 전원이 사기꾼이었음. 이런 상황이 가족에게 큰 고통을 줌
  과거 TV나 신문 시절에는 이런 규모의 사기가 불가능했음. 노년층과 청소년을 위한 온라인 법적 보호가 절실하며, 기업이 광고와 사기 계정에 대해 책임을 져야 더 나은 인터넷이 만들어질 것임
  • 나의 할머니도 유명인 사칭 사기로 전 재산을 잃었음. 은행이 돈을 돌려줬지만, 범인은 나이지리아에서 활동 중이라 잡히지 않음
    그녀의 Google 계정에 사기범의 전화가 연결되어 있었음. 교육을 시도했지만, 완전히 이해하지 못하는 듯함
    노트북에서 증거를 모으는 과정이 감정적으로 힘들었음. Meta 플랫폼은 사기꾼의 온상이며 반드시 책임을 져야 함
  • 나도 비슷한 경험이 있음. 지난 10년간 Meta에서 일한 사람이라면 사회를 악화시키는 데 의식적으로 기여한 것이라 생각함. 아무리 급여가 높아도 최소한의 양심은 필요함
  • 부모님이 YouTube에서 어떤 영상을 추천받는지도 확인해야 함. 특히 심리학, 종교, 대체의학 관련 콘텐츠는 이상한 채널이 많음
  • 뉴저지에서 정신 장애가 있는 노인이 Meta 봇과의 데이트를 가려다 사망한 사건을 보고 마음이 무너졌음
  • 우리 모두 이런 경험이 있음. 이런 플랫폼은 가족을 분열시키고, 범죄자에게 취약층 접근을 쉽게 만들어 사회를 파괴하고 있음
• 지금 시점에서 모든 빅테크 기업이 비윤리적 행위로 비판받고 있음
  하지만 Meta는 사회적 해악을 인지하고도 성장과 수익을 우선시한 유일한 사례라 생각함
  ‘성장 우선’, ‘데이터 중심’, ‘참여도 최적화’, ‘광고 수익화’라는 조합이 문제의 핵심임
  • 다른 산업에서도 이런 사례가 있음. 석유·가스, 담배 회사가 대표적임
  • 대규모 광고의 사회적 영향은 결국 허위 수요와 불만족을 조장함. 인터넷은 선한 영향도 있지만, 전체적으로는 부정적 효과가 크다고 봄
  • 이는 발암 물질 은폐를 한 화학 기업들과 같은 수준의 문제임
  • Robinhood 같은 다른 산업도 마찬가지임. 시장 효율성이라는 이름 아래 유해한 행동이 반복됨
  • 르완다 대학살 당시 라디오 방송 진행자들이 종신형을 받은 사례를 떠올리게 됨
• 우리 모두 이 문제를 알고 있음. 중요한 건 무엇을 할 것인가임
  단순히 “Facebook을 끊겠다”는 선언만으로는 부족함.
  사회적 미디어의 중독성은 담배나 술과 비슷하지만, 동시에 소통 도구로서의 가치도 있음
  우리는 나쁜 부분을 제거하고 대안적 시스템을 만들어야 함
  미국 기업이 아닌, 사회에 실질적 가치를 주는 플랫폼을 만들 수 있음
  기술자이자 엔지니어인 우리가 직접 나서야 함
  관련 글을 mu.xyz에 올려둠
  • 현재로서는 클라이언트 사이드 보호 기술이 희망임. 하지만 그것조차 수익을 위해 어두운 패턴을 가질 수 있음
• 기업은 스스로를 감시할 수 없음
  1980년대에도 석유 회사들이 내부 문서에서 지구 온난화를 인지하고 있었다는 기록이 있음
  • 기업이 자율적으로 감시하지 않는다면, 실패에 대한 처벌이 필요함
    예를 들어, 지구를 파괴하는 행위를 공모한 조직에는 기업 사형제가 필요함
  • Shell의 내부 문서는 1962년까지 거슬러 올라감
    관련 기사: Desmog - Shell의 초기 경고 무시
    온실효과 이론은 1850년대, 첫 기후 모델은 1896년에 발표됨
    JSTOR 기사
  • 어떤 조직도 자기 감시는 불가능함. 그래서 견제와 균형(checks and balances) 시스템이 필요함
    Britannica 설명
  • ExxonMobil은 1970년대에 이미 정확히 예측했다는 연구가 있음
    Harvard 기사
  • 1980년대에는 이미 지구 온난화가 과학적으로 이해된 상태였음
• Meta가 성매매 인신매매 시도 17회를 해야 계정을 삭제했다는 문서를 보고 충격을 받음
  정말로 이런 사용자가 성장에 도움이 된다고 생각한 것인지 이해할 수 없음
  • Apple의 CSAM 스캔 정책처럼, 오탐 방지를 위한 임계값 설정이 복잡한 문제임
    하지만 “24개까지는 괜찮다”는 식의 인식이 생길 수 있음
  • 아마도 자동 탐지 알고리즘의 신뢰도가 낮아 여러 번의 ‘스트라이크’를 설정했을 가능성이 있음
  • Meta 내부 직원들도 이 문제를 우려했음. 하지만 Zuckerberg는 우선순위가 아니라고 직접 말함
    성장 중심의 벤처 자본주의 문화에서는 아동 안전보다 성장이 우선됨
  • 문서의 해석이 과장되었을 수도 있음. 내부 플래그 시스템의 오해일 가능성도 있음
• 100년 후 사람들은 지난 20년간의 소셜미디어 중독을 보고 충격을 받을 것이라 생각함
  • 오히려 더 빨리 소셜미디어 절제가 일반 상식이 될 것이라 봄
    과거 TV나 게임에 대한 도덕적 공포가 지금의 논의와 비슷함
    이제는 짧은 영상 콘텐츠에 대한 공포가 소셜미디어에서 확산되고 있음
  • 100년 후엔 AI 콘텐츠에 완전히 잠식되어 놀랄 여유조차 없을지도 모름
  • 2040년쯤엔 2010~2020년대를 배경으로 한 드라마에서 소셜미디어 중독이 과거의 흡연처럼 묘사될 것임
  • 스마트폰 중독도 심각함. 특히 청소년에게 미치는 영향은 이미 충분히 연구됨
• Meta를 보이콧해야 함. 그렇지 않으면 소셜미디어가 아이들을 파괴할 것임
• Zuckerberg가 “아동 안전은 최우선이 아니다, 메타버스 구축에 더 집중하고 있다”고 말한 인용문을 보고 충격을 받음
  • 하지만 “아이들을 생각하라”는 논리가 모든 논의의 함정이 될 수 있음. 균형이 필요함
• 2010년대 초반 Facebook을 끊었는데, 금단 증상이 담배를 끊을 때와 거의 같았음
  이후 느낀 평온함과 명료함도 비슷했음. 그때 이미 소셜미디어 중독성을 깨달았음
  • 2014년 Facebook이 뉴스피드로 감정 조작 실험을 한 논문을 발표했음
    PNAS 논문 링크
    70만 명을 동의 없이 실험 대상으로 삼았다는 걸 보고 즉시 계정을 삭제했음
  • 나는 원래 Facebook을 좋아하지 않았지만, 포럼 중독을 끊을 때는 도박 중독을 끊는 느낌이었음
    인간은 사회적 상호작용에 중독되는 존재이므로, 이런 플랫폼은 도박처럼 규제되어야 함
  • Twitter(X)를 한 달 전에 끊었는데, 흡연 중단과 같은 감정을 느꼈음
  • Facebook을 끊었지만 아무 변화도 없었음. 뉴스피드가 이미 사회적 연결을 파괴했기 때문임
• “급여가 이해를 방해한다”는 Upton Sinclair의 말을 떠올림
  많은 기술자들이 높은 연봉 때문에 자신이 만드는 해악을 외면함
  그리고 FAANG을 떠나며 “용감한 결단”이라 포장하지만, 결국 같은 추출적 시스템에 의해 유지되는 삶임