3P by GN⁺ 1일전 | ★ favorite | 댓글 2개
  • 8년 만에 접속해보니 뉴스피드가 AI 생성 콘텐츠와 선정적 게시물로 뒤덮인 상태
  • 팔로우하지 않은 페이지에서 올라온 AI 여성 이미지와 클릭 유도형 밈·영상이 대부분을 차지
  • 일부 게시물에는 Meta의 AI가 제시하는 성차별적 질문 추천 기능이 표시되어 불쾌감을 유발
  • AI 생성물과 실제 인물의 구분이 어려울 정도로 콘텐츠 품질이 혼탁하며, 댓글 역시 봇 계정으로 의심됨
  • 페이스북 알고리듬 피드의 붕괴와 플랫폼 신뢰 상실을 체감. “다시는 돌아오지 않을 것”

뉴스피드의 변화와 첫인상

  • 약 8년 만에 로그인한 사용자는 이웃 커뮤니티를 찾기 위해 접속했으나 존재하지 않음
  • 메인 피드를 스크롤하자 첫 게시물은 팔로우 중인 xkcd 페이지였지만, 이후 10개 연속 게시물이 팔로우하지 않은 페이지의 게시물이었음
  • 대부분 AI로 생성된 젊은 여성의 사진과 일반적인 문구로 구성된 게시물로, 그냥 “Facebook이 밀어주는 콘텐츠”

AI 생성 콘텐츠의 범람

  • 피드에는 AI 영상도 포함되어 있었으며, 예를 들어 경찰이 소년의 자전거를 압수했다가 새 자전거를 주는 장면이 있었음
  • 연애 관련 밈과 영상 스케치도 다수 등장했으며, 일부는 여성이 생리 중 남자친구와 싸움을 의도적으로 시작하는 내용이었음
  • Meta의 AI는 이러한 영상에 대해 성차별적이거나 부적절한 질문을 제안하는 기능 까지 표시함

AI 콘텐츠의 품질과 혼란

  • 일부 이미지는 배경의 외계어 텍스트나 왜곡된 로고 등으로 명백히 AI 생성임이 드러남
  • 댓글을 확인했으나, AI임을 지적하는 사람은 없었고 댓글 자체가 봇일 가능성도 있음
  • AI 모델의 발전으로 인해 실제 인물과 AI 생성물의 구분이 어려운 상황

알고리듬 피드의 불투명성

  • 이 현상이 내 알고리듬만의 문제인지 궁금함
  • 알고리듬 기반 피드 특성상 다른 이용자들이 같은 콘텐츠를 보는지 알 수 없음
  • 오랜 기간 로그인하지 않은 계정일수록 친구 게시물이 부족해 AI 콘텐츠가 대체되는 것 일수도

플랫폼에 대한 환멸

  • AI 생성 여성 이미지 중 일부가 미성년자로 보이는 경우를 보고 불쾌감을 느꼈음
  • “페이스북은 더 이상 사용할 이유가 없음”, 향후 자녀 학교 공지 등 불가피한 경우에만 접속할 것
  • 전체적으로 페이스북 뉴스피드가 AI 콘텐츠와 봇 활동으로 오염된 상태

페이스북은 정말 포스트 2개쯤 스크롤하면 광고하나, 그리고 지들 맘대로 추천 포스트하나
그냥 광고만 올라오는 플랫폼이 되어버린듯. 글에서 얘기하는 이상한 영상과 사진들이 너무 많아서 점점 안보게 되네요.

Hacker News 의견들
  • 내 어머니는 60대의 국제선 승무원임
    최근 페이스북을 봤는데, 그녀의 피드는 친구들과 동료들의 여행 사진, 자주 가는 도시의 활동 계획 그룹 등으로 가득 차 있었음
    놀랍게도 어머니는 직접 여행 사진을 자주 올리고, 댓글에는 가족과 친구들의 따뜻한 메시지가 넘쳐났음
    이걸 보고 페이스북이 완벽히 작동하는 사용자층이 존재한다는 걸 깨달았음
    하지만 이런 긍정적 경험은 어머니처럼 특권적인 환경에 있는 사람들에게만 가능한 것 같음

    • 알고리즘은 ‘참여’를 최우선으로 함
      건강하고 안정된 사람은 분노 유도 콘텐츠에 반응하지 않기 때문에, 외로운 사람이나 불만이 있는 사람에게 자극적인 콘텐츠가 집중됨
      이런 구조는 사회적 해악이며, 플랫폼은 결국 중독과 정신적 손상을 유발함
      이런 플랫폼은 폐쇄되어야 하고, 양심 있는 사람들은 네트워크 효과를 끊기 위해 사용을 중단해야 함
    • 국제선 승무원이라면, 자주 해외를 오가므로 알고리즘이 완전히 다르게 작동할 가능성이 있음
      정치적 영향력이 있는 사람들에게는 부정적 콘텐츠를 덜 노출시키는 식으로 관리할 수도 있음
      이는 2021년에 공개된 XCheck 프로그램의 일환일 수도 있음
    • 나도 중년 여성인데, 내 피드는 꽤 괜찮음
      친구들과 관심 그룹의 게시물로 채워져 있음
      다만 내가 페이스북을 끊은 이유는 Mark Zuckerberg 때문임
      그가 싫어서 제품을 쓰지 않기로 했지만, 유럽 가족과 연락하려고 WhatsApp은 여전히 쓰고, 일 때문에 Instagram도 조금 씀
    • 몇 년 전 페이스북을 끊었는데, 나중에 친구가 세상을 떠난 걸 뒤늦게 알았음
      모두 페이스북에서 소식을 들었는데 나만 몰랐음
      여전히 일부 그룹에서는 페이스북이 중심 허브로 작동함
    • 내 피드도 비슷함
      정치적이거나 부정적인 콘텐츠는 모두 차단해서 꽤 평화로움
  • 남성으로 분류되면 피드가 거의 전부 ‘자극적인 콘텐츠’ 로 채워짐
    여성 사용자가 남성으로 설정한 계정을 만들어도 같은 결과였다고 함
    나는 도자기나 육아 영상만 좋아요 눌러봤지만, 일주일 후 다시 원래대로 돌아왔음
    이제는 그냥 무시하고 스크롤함
    이런 현상을 더 많은 사람이 알아야 불필요한 오해를 줄일 수 있을 것 같음

    • 몇 년 전 지역 거래를 위해 계정을 만들었는데, 피드가 점점 노골적이고 부적절한 이미지로 채워졌음
      스크린샷을 찍다가, 지하철에서 갤러리를 열었을 때 너무 부끄러웠음
      이후 표현을 좀 더 정중하게 수정함
    • 나는 22년 동안 남성으로 설정된 계정을 써왔지만 그런 콘텐츠는 거의 없음
    • 직접 테스트해봤는데, 내 피드는 신시사이저, 학교 소식, 친구 게시물뿐이었음
      짧은 영상(Reels)을 전혀 보지 않아서 그런 것 같음
    • 10년 넘게 가족 사진만 올렸는데, 피드는 광고와 비키니 영상으로 가득함
      정치적 게시물은 다 언팔로우했는데도 이 모양임
    • 내 피드는 친구들의 게시물뿐이고, AI 생성 콘텐츠는 거의 없음
      기사에서 말한 현상이 내 계정에는 보이지 않음
  • 몇 년 만에 페이스북에 로그인했더니 쓰레기 같은 추천 콘텐츠로 가득했음
    반면 배우자의 피드는 꽤 정상적이었음
    오랫동안 비활성화된 계정은 기본 알고리즘 상태로 남아 있어서 그런 듯함

    • 비활성 계정은 가장 낮은 광고 입찰자에게 팔리는 데이터 취급을 받는다고 생각함
      새 정보가 없으면 수익화할 게 없기 때문임
    • 5년 만에 인스타그램에 로그인했더니 피드가 전부 AI 생성 이미지와 선정적 콘텐츠였음
    • 나는 자주 로그인하지만, 요즘은 분노 유발 AI 영상이 넘침
      예전엔 그럴듯한 게시물이었는데, 최근 1년 사이에 완전히 바뀜
      친구 게시물은 거의 사라짐
    • YouTube도 비슷함
      로그인하지 않으면 자극적인 영상만 나오고, 검색 기록이 쌓여야 정상화됨
    • 알고리즘은 처음엔 가장 자극적인 콘텐츠로 유혹하려 함
      시간이 지나면 사용자의 취향을 학습하지만, 결국 다시 자극적인 영상이 섞임
      친구들이 보내는 음악 관련 영상 때문에 가끔 들어가는데, 그게 DAU(일간 활성 사용자) 유도 전략 같음
  • 나는 50대 부모임
    한때 페이스북은 정말 행복한 공유의 장이었음
    친구들과 가족이 아이, 여행, 식사 사진을 올리고 서로 격려했음
    클릭이나 조회수를 위한 게 아니라 진심으로 소통했음
    그런데 어느 순간, 특히 남편들부터 사라지기 시작했음

    • “남편들부터 사라졌다”는 말이 이혼을 의미하는지, 아니면 단순히 흥미를 잃은 건지 헷갈림
    • 하지만 그 시절에도 Meta는 데이터를 수집하고 있었음
      결국 우리는 프로필로 분석되어 광고주에게 팔렸음
    • 지금은 그 그룹들이 어떤 플랫폼을 쓰는지 궁금함
    • “남편들부터 사라졌다”는 게 무슨 뜻인지 구체적으로 묻고 싶음
  • “내 주변엔 그런 사람 없다”는 식의 착각임
    미국과 유럽에서 페이스북이 줄었다고 해도, 필리핀에서는 곧 인터넷 자체
    모든 비즈니스가 페이스북에서 돌아가고, 뉴스 대신 쓰이며, Messenger는 기본 통신 수단임

    • 내 필리핀인 이모의 피드에는 AI 생성 콘텐츠가 넘쳐남
      분노 유발, 종교 이미지, 귀여운 동물 영상이 섞여 있음
      그녀는 AI라는 개념은 알지만, 너무 자연스러워 구분이 어려움
    • 하지만 브라질, 중국, 인도 등에서는 사용률이 낮거나 차단되어 있음
      따라서 글로벌 관점에서 보면 시장 손실이 크다고 봄
    • 필리핀을 여러 번 방문했는데, 정말 페이스북이 유일한 선택지였음
      참고로 필리핀은 세계에서 소셜미디어 사용률 1위
    • 아프리카 35개국을 다녀봤는데, 거기서도 페이스북이 곧 인터넷이었음
  • 나는 해외 거주자라 가끔, 한 달에 한두 번 정도 페이스북을 씀
    피드는 완벽하진 않지만, 조금만 상호작용하면 수학·체스·공학 콘텐츠로 맞춰줌
    오랜만에 로그인한 사람들이 선정적 콘텐츠를 보는 건, 남성 평균 취향을 반영한 결과일 듯함
    예전 페이스북은 진짜 최고의 소셜미디어였음
    친구들과 교류하고, 옛 동창을 다시 만나고, 파티 후 새 친구를 추가하던 시절이 그립음
    지금의 SNS는 타인의 더 나은 삶을 비교하게 만드는 구조라 슬픔

    • 내 아들도 그런 비교 때문에 힘들어함
      젊은 세대에게는 정신적 압박이 큰 문제임
  • 나도 처음엔 “왜 내 추천에 이런 게 뜨지?” 싶었음
    로그인해보니 정말 자극적 콘텐츠와 분노 유발 게시물이 섞여 있었음
    잠시 후 다시 들어가니, 내가 클릭한 걸 기반으로 축구 관련 게시물로 바뀌었음
    단순히 피드를 스크롤하는 것만으로도 추천 알고리즘이 즉시 반응하는 듯함

  • 지난 25년간 인터넷 토론의 질이 떨어진 이유는 글로벌 사용자층의 문화적 변화 때문이라고 생각함
    2000년대 초까지만 해도 선진국 중심이었지만, 이후 신흥국이 대거 유입되면서 문화적 기준이 달라짐
    플랫폼은 숫자가 많은 시장의 취향을 반영하게 되었고, 그 결과 콘텐츠의 질적 저하가 발생함

    • 굳이 다른 나라를 탓할 필요 없음
      미국 내에서도 성인 절반 이상이 초등학교 6학년 이하의 문해력을 가지고 있음
      Barbara Bush Foundation 통계 참고
    • 그냥 나라 이름을 직접 말하면 되지 않겠냐는 반응도 있었음
  • 나는 페이스북을 자주 쓰지만, 소셜 피드가 아닌 Marketplace와 광고용으로만 씀
    짧은 영상(Shorts)은 전부 노출이 심한 영상이라 공공장소에서는 앱을 열지 않음

    • 지역 거래 플랫폼으로서의 Facebook Marketplace는 과소평가됨
      Craigslist나 OfferUp이 사라진 지역에서는 거의 유일한 거래 허브임
      페이스북은 여기서도 광고로만 수익을 냄
    • 내게는 이혼한 아빠의 삶을 이상적으로 보여주는 광고가 자주 뜸
      약간 웃기지만 묘하게 불편함
    • 짧은 영상을 의도적으로 다른 주제로 시청하면, 알고리즘이 교정
      지금은 실험 영상 위주로 바뀌었음
    • Marketplace에서도 참여 유도 알고리즘이 작동해서, 제안 목록 절반이 옷을 입은 모델 사진임
    • Reels 섹션은 직장에서는 절대 열 수 없는 수준
      영구적으로 숨기는 설정이 있으면 좋겠음
  • 데스크톱 버전의 UI가 끔찍함
    탭을 바꾸면 새로고침되고, 긴 댓글은 “더 보기”를 눌러야 함
    동영상을 전체화면으로 보려 하면 이상한 모달 창이 뜨고 음소거됨
    예전의 단순함이 완전히 사라진 슬픈 껍데기가 되어버림