▲

TikTok은 산업적 규모로 어린이에게 해를 끼치고 있음

 (afterbabel.com)
2P by GN⁺ 2일전 | ★ favorite | 댓글 1개
  • 미국 14개 주 법무장관은 TikTok이 아동과 청소년에게 심각한 해악을 끼친다고 주장하며 소송을 제기함
  • 내부 문서와 직원 발언을 통해 중독성 알고리듬, 정신 건강 문제, 성적 착취 및 아동 포르노 노출 등이 드러남
  • TikTok은 이 문제들을 인식하고 있음에도 수익과 사용자 참여를 우선시하여 방치함
  • 콘텐츠 필터링 시스템과 부모 통제 기능이 매우 비효율적이며, 아동 유입을 막는 연령 검증도 실패함
  • 많은 Z세대 사용자도 “중독되었지만 끊을 수 없다”는 인식을 가지고 있으며, 전체적으로 사회에 미치는 순이익은 매우 부정적임

TikTok이 아동에게 가하는 산업 규모의 해악

미국 대법원의 TikTok 금지법 판결 예고

  • 미국 대법원은 TikTok 금지법에 대한 개입 여부를 결정할 예정임
  • 해당 법이 시행되면 Bytedance가 TikTok을 매각하지 않는 한 미국 내 서비스는 중단됨
  • 그러나 정신 건강, 아동 착취, 중독과 같은 실제 해악에 대한 증거는 법적 심의에서 제외됨
  • 이에 따라 대중적 판단(여론)의 중요성이 강조됨

TikTok 내부자들의 증언과 유출 문서

주요 법무장관 소송 및 문서

  • 켄터키, 유타, 네브래스카, 뉴욕 등 14개 주의 법무장관이 소송 제기
  • 내부 Slack 대화, 기획 문서, 실험 데이터 등이 다수 공개됨
  • 의도적으로 청소년을 타깃으로 하는 설계와 알고리듬 전략이 확인됨
  • 검열된 문서의 경우, 단순한 흑색 박스로 처리되어 쉽게 복원 가능했음

해악 클러스터 1: 중독성과 강박적 사용 유도

  • TikTok은 10대들이 시간과 참여를 가장 많이 줄 수 있는 타깃이라고 명시함
  • 중독성 알고리듬, 무한 스크롤, 자동 재생, 알림 설계 등을 통해 강박적 사용 유도
  • 청소년은 특히 사회적 보상(좋아요, 댓글 등)에 민감하고 자기 조절 능력이 부족함
  • 내부 직원들도 “우리 제품은 어린이 발달에 해롭다”는 우려를 표현
  • ‘TikTank’ 보고서는 특히 청소년 사용자가 자기 조절 실패, 수면 방해, 학습 능력 저하 등의 부작용을 겪는다고 언급함

해악 클러스터 2: 정신 건강 문제와 필터 버블

  • 강박적 사용이 불안, 우울, 자기 비하, 자해 및 자살 충동을 유발함
  • 실험 계정이 단 20분 만에 우울증, 자살, 식이장애 콘텐츠로 가득 찬 필터 버블에 빠짐
  • TikTok은 외모 필터가 자기 이미지 왜곡과 저자존감을 유발한다는 점을 알고 있음에도 방치
  • 콘텐츠 관리자는 언어 해석 불가, 맥락 부족, 기준 모호성으로 인해 자해/자살 콘텐츠를 적절히 차단하지 못함

해악 클러스터 3: 포르노, 폭력, 마약 콘텐츠 유통

  • 미성년자 계정에 음란물, 마약 광고, 폭력적 영상이 자동 추천됨
  • TikTok의 콘텐츠 필터링 시스템은 암시적 코드 언어를 제대로 처리하지 못함
  • 내부 문서는 마약 밀매, 성매매, 자금세탁 등이 TikTok LIVE에서 발생한다는 사실을 인지하고 있음
  • 유타 법무장관은 조사 중 자녀가 마약 딜러로부터 직접 접근받은 사례를 제시함
  • 심각한 유해 콘텐츠의 30~100%가 필터링되지 않고 노출됨

해악 클러스터 4: 성적 착취, CSAM, 아동 생중계 성매매

  • TikTok은 아동 성착취물(CSAM) 감지 기술을 의도적으로 도입하지 않음
  • 13~15세 아동이 LIVE 방송에서 성인들에게 선물(가상 화폐)을 받고 성적 콘텐츠 제공
  • TikTok은 이를 인지하고도 수익성과 참여 유지를 이유로 방치
  • 아동이 직접 “아이스크림 = 돌기, 우주 = 옷 벗기” 등의 메시지를 들고 출연하는 방송도 존재함
  • LIVE 기능은 아동에게 매우 유해하지만 TikTok은 “너무 수익성이 좋아서 제한할 수 없다”고 내부에서 언급

해악 클러스터 5: 연령 제한 무시 및 대응 부족

  • TikTok은 연령 제한이 있으나 13세 미만 가입자와 아동 이용을 알고도 제재하지 않음
  • 나이 검증은 거의 무력하며, 미성년자는 쉽게 나이를 속일 수 있음
  • 부모 통제 기능(Family Pairing) 도 거의 사용되지 않으며 실질적인 보호 효과 없음
  • TikTok은 안전 기능을 단지 정부와 언론을 위한 ‘명분용’으로 사용한다는 내부 문서 존재
  • DAU(일일 사용자 수)와 참여율 유지가 모든 결정의 핵심 목표이며, 안전성은 우선순위에서 배제됨

젊은 사용자들의 후회와 의존성

  • TikTok 사용자 다수는 “중독된 줄 알지만 못 끊는다” 는 반응을 보임
  • 실험 결과, 다수가 “모두가 함께 끊는다면 기꺼이 끊고 싶다”는 반응을 보임
  • Harris Poll 설문에서는 TikTok에 대해 **“처음부터 없었으면 좋았을 것”이라고 답한 비율이 47%**로 소셜 미디어 중 가장 높았음
  • TikTok은 행동 중독성과 사회적 중독성을 동시에 갖춘 플랫폼으로, 사용자도 자신에게 유해함을 인식

결론: 아동 보호를 위한 TikTok 규제 필요성

  • TikTok에서 발생하는 해악은 단순한 사고가 아닌, 설계된 결과임
  • 미국 어린이 수백만 명이 정상적인 사용만으로도 정신적·신체적으로 심각한 피해를 입고 있음
  • 현재의 알고리듬과 콘텐츠 정책 하에서 TikTok은 아동기 자체를 침해하는 플랫폼
  • 미국 사회 전체를 위해서라도 1월 19일 TikTok 서비스 중단은 긍정적인 변화가 될 수 있음
▲
GN⁺ 2일전  [-]
Hacker News 의견

  • Haidt는 데이터 분석에서 가장 신중한 사람은 아니지만, 지난 10년 동안 그의 주요 주장들이 대체로 올바른 방향으로 가고 있었음

    • 취소 문화는 민주적 규범과 호환되지 않음
    • 소셜 미디어는 많은 사람들에게 약간의 부정적 영향을 주고, 일부 사람들에게는 큰 부정적 영향을 줌
    • 항상 휴대폰을 가지고 있는 것은 지속적인 주의가 필요한 모든 것에 나쁨, 특히 연애와 데이트 포함
    • 기술은 이 문제를 해결하지 못할 것임. AI는 상황을 더 악화시킬 것임. TikTok이 금지되고 더 나은 버전이 생겨도 잘못된 방향으로 가고 있음. 문화 변화가 필요하며, Haidt가 이를 위해 최선을 다하고 있음

  • 켄터키 법무장관 사무실이 TikTok에 대한 보고서를 게시할 때, 검은 사각형으로 텍스트를 가렸지만, 커서를 사용해 복사하여 숨겨진 텍스트를 읽을 수 있었음. 매우 웃긴 상황임

  • 자녀가 없지만, 기술과 아이들을 다루는 다른 방법이 가능하다는 개인적인 경험을 공유함

    • 1980년대 중서부에서 살 때, 부모님께 1973년판 Encyclopedia Britannica를 중고로 사달라고 요청했음. 이는 온라인 자원에서 얻을 수 있는 호기심과 발견의 기쁨을 제공했음
    • 여행 중에도 백과사전을 가져가 읽었음. 이는 아이들이 기술에 의존하지 않고도 다양한 필요를 충족할 수 있는 방법이 있음

  • 젊은 여성과 십대들이 선물 요청과 성적화된 댓글을 받는 것이 흔하다는 것에 놀람. 이는 18세 미만의 사람들에게 큰 영향을 줄 수 있음

  • 내부 보고서가 경영진이 듣고 싶어하지 않는 내용을 작성하는 이유에 대한 의문

    • 경영진이 듣고 싶어하지 않는 것을 인지하지 못하는지
    • 경영진이 실제로 듣고 싶어하지만, 의도적으로 편향된 해석을 원하는지
    • 정보가 건설적으로 사용될 것이라고 생각하는지
    • 정직한 연구자로서의 역할을 다하려는 것인지
    • 해고를 피하기 위한 일자리 보안인지
    • 스캔들이 공개될 경우를 대비한 문서 기록을 남기려는 것인지

  • 켄터키 법무장관 사무실의 부적절한 검열 처리 방식이 재미있다고 생각함

  • 부모들이 자녀의 기기에서 특정 사이트를 차단했으면 좋겠다고 생각함. 검열과 감시를 확대하지 않아도 됐을 것임

  • 소셜 미디어가 중독적이어서 스스로 차단해야 했던 경험을 공유함. 교육적 관점에서 비디오를 보는 것은 유용할 수 있지만, LLM 요약을 통해 유용한 내용을 파악하는 것이 좋음

답변달기