# TikTok은 산업적 규모로 어린이에게 해를 끼치고 있음

> Clean Markdown view of GeekNews topic #20395. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=20395](https://news.hada.io/topic?id=20395)
- GeekNews Markdown: [https://news.hada.io/topic/20395.md](https://news.hada.io/topic/20395.md)
- Type: GN+
- Author: [neo](https://news.hada.io/@neo)
- Published: 2025-04-18T09:49:26+09:00
- Updated: 2025-04-18T09:49:26+09:00
- Original source: [afterbabel.com](https://www.afterbabel.com/p/industrial-scale-harm-tiktok)
- Points: 2
- Comments: 1

## Topic Body

- 미국 14개 주 법무장관은 **TikTok이 아동과 청소년에게 심각한 해악을 끼친다고 주장하며 소송**을 제기함  
- 내부 문서와 직원 발언을 통해 **중독성 알고리듬, 정신 건강 문제, 성적 착취 및 아동 포르노 노출** 등이 드러남  
- TikTok은 **이 문제들을 인식하고 있음에도 수익과 사용자 참여를 우선시하여 방치**함  
- **콘텐츠 필터링 시스템과 부모 통제 기능이 매우 비효율적**이며, 아동 유입을 막는 연령 검증도 실패함  
- 많은 Z세대 사용자도 **“중독되었지만 끊을 수 없다”는 인식**을 가지고 있으며, 전체적으로 사회에 미치는 순이익은 **매우 부정적**임  
  
### TikTok이 아동에게 가하는 산업 규모의 해악  
  
#### 미국 대법원의 TikTok 금지법 판결 예고  
  
- 미국 대법원은 TikTok 금지법에 대한 개입 여부를 결정할 예정임  
- 해당 법이 시행되면 Bytedance가 TikTok을 매각하지 않는 한 미국 내 서비스는 중단됨  
- 그러나 **정신 건강, 아동 착취, 중독과 같은 실제 해악에 대한 증거는 법적 심의에서 제외**됨  
- 이에 따라 대중적 판단(여론)의 중요성이 강조됨  
  
### TikTok 내부자들의 증언과 유출 문서  
  
#### 주요 법무장관 소송 및 문서  
  
- 켄터키, 유타, 네브래스카, 뉴욕 등 14개 주의 법무장관이 소송 제기  
- **내부 Slack 대화, 기획 문서, 실험 데이터 등이 다수 공개됨**  
- **의도적으로 청소년을 타깃으로 하는 설계와 알고리듬 전략**이 확인됨  
- 검열된 문서의 경우, 단순한 흑색 박스로 처리되어 쉽게 복원 가능했음  
  
### 해악 클러스터 1: 중독성과 강박적 사용 유도  
  
- TikTok은 **10대들이 시간과 참여를 가장 많이 줄 수 있는 타깃이라고 명시함**  
- **중독성 알고리듬, 무한 스크롤, 자동 재생, 알림 설계** 등을 통해 강박적 사용 유도  
- 청소년은 특히 **사회적 보상(좋아요, 댓글 등)에 민감하고 자기 조절 능력이 부족**함  
- 내부 직원들도 “**우리 제품은 어린이 발달에 해롭다**”는 우려를 표현  
- **‘TikTank’ 보고서**는 특히 청소년 사용자가 **자기 조절 실패, 수면 방해, 학습 능력 저하** 등의 부작용을 겪는다고 언급함  
  
### 해악 클러스터 2: 정신 건강 문제와 필터 버블  
  
- **강박적 사용이 불안, 우울, 자기 비하, 자해 및 자살 충동**을 유발함  
- 실험 계정이 **단 20분 만에 우울증, 자살, 식이장애 콘텐츠로 가득 찬 필터 버블에 빠짐**  
- TikTok은 외모 필터가 **자기 이미지 왜곡과 저자존감을 유발한다는 점을 알고 있음에도 방치**  
- 콘텐츠 관리자는 **언어 해석 불가, 맥락 부족, 기준 모호성**으로 인해 자해/자살 콘텐츠를 적절히 차단하지 못함  
  
### 해악 클러스터 3: 포르노, 폭력, 마약 콘텐츠 유통  
  
- **미성년자 계정에 음란물, 마약 광고, 폭력적 영상이 자동 추천됨**  
- TikTok의 **콘텐츠 필터링 시스템은 암시적 코드 언어를 제대로 처리하지 못함**  
- 내부 문서는 **마약 밀매, 성매매, 자금세탁 등이 TikTok LIVE에서 발생한다는 사실을 인지하고 있음**  
- 유타 법무장관은 조사 중 **자녀가 마약 딜러로부터 직접 접근받은 사례**를 제시함  
- **심각한 유해 콘텐츠의 30~100%가 필터링되지 않고 노출됨**  
  
### 해악 클러스터 4: 성적 착취, CSAM, 아동 생중계 성매매  
  
- TikTok은 아동 성착취물(CSAM) 감지 기술을 **의도적으로 도입하지 않음**  
- **13~15세 아동이 LIVE 방송에서 성인들에게 선물(가상 화폐)을 받고 성적 콘텐츠 제공**  
- TikTok은 이를 **인지하고도 수익성과 참여 유지를 이유로 방치**  
- **아동이 직접 “아이스크림 = 돌기, 우주 = 옷 벗기” 등의 메시지를 들고 출연하는 방송**도 존재함  
- LIVE 기능은 아동에게 매우 유해하지만 **TikTok은 “너무 수익성이 좋아서 제한할 수 없다”고 내부에서 언급**  
  
### 해악 클러스터 5: 연령 제한 무시 및 대응 부족  
  
- TikTok은 연령 제한이 있으나 **13세 미만 가입자와 아동 이용을 알고도 제재하지 않음**  
- **나이 검증은 거의 무력하며, 미성년자는 쉽게 나이를 속일 수 있음**  
- **부모 통제 기능(Family Pairing)** 도 거의 사용되지 않으며 실질적인 보호 효과 없음  
- TikTok은 안전 기능을 단지 **정부와 언론을 위한 ‘명분용’으로 사용한다는 내부 문서** 존재  
- **DAU(일일 사용자 수)와 참여율 유지가 모든 결정의 핵심 목표**이며, 안전성은 우선순위에서 배제됨  
  
### 젊은 사용자들의 후회와 의존성  
  
- TikTok 사용자 다수는 **“중독된 줄 알지만 못 끊는다”** 는 반응을 보임  
- 실험 결과, **다수가 “모두가 함께 끊는다면 기꺼이 끊고 싶다”는 반응**을 보임  
- Harris Poll 설문에서는 TikTok에 대해 **“처음부터 없었으면 좋았을 것”이라고 답한 비율이 47%**로 소셜 미디어 중 가장 높았음  
- TikTok은 **행동 중독성과 사회적 중독성**을 동시에 갖춘 플랫폼으로, 사용자도 자신에게 유해함을 인식  
  
### 결론: 아동 보호를 위한 TikTok 규제 필요성  
  
- TikTok에서 발생하는 해악은 **단순한 사고가 아닌, 설계된 결과임**  
- 미국 어린이 수백만 명이 **정상적인 사용만으로도 정신적·신체적으로 심각한 피해**를 입고 있음  
- **현재의 알고리듬과 콘텐츠 정책 하에서 TikTok은 아동기 자체를 침해하는 플랫폼**  
- 미국 사회 전체를 위해서라도 **1월 19일 TikTok 서비스 중단은 긍정적인 변화**가 될 수 있음

## Comments



### Comment 37291

- Author: neo
- Created: 2025-04-18T09:49:26+09:00
- Points: 1

###### [Hacker News 의견](https://news.ycombinator.com/item?id=43716665) 
- Haidt는 데이터 분석에서 가장 신중한 사람은 아니지만, 지난 10년 동안 그의 주요 주장들이 대체로 올바른 방향으로 가고 있었음
  - 취소 문화는 민주적 규범과 호환되지 않음
  - 소셜 미디어는 많은 사람들에게 약간의 부정적 영향을 주고, 일부 사람들에게는 큰 부정적 영향을 줌
  - 항상 휴대폰을 가지고 있는 것은 지속적인 주의가 필요한 모든 것에 나쁨, 특히 연애와 데이트 포함
  - 기술은 이 문제를 해결하지 못할 것임. AI는 상황을 더 악화시킬 것임. TikTok이 금지되고 더 나은 버전이 생겨도 잘못된 방향으로 가고 있음. 문화 변화가 필요하며, Haidt가 이를 위해 최선을 다하고 있음

- 켄터키 법무장관 사무실이 TikTok에 대한 보고서를 게시할 때, 검은 사각형으로 텍스트를 가렸지만, 커서를 사용해 복사하여 숨겨진 텍스트를 읽을 수 있었음. 매우 웃긴 상황임

- 자녀가 없지만, 기술과 아이들을 다루는 다른 방법이 가능하다는 개인적인 경험을 공유함
  - 1980년대 중서부에서 살 때, 부모님께 1973년판 Encyclopedia Britannica를 중고로 사달라고 요청했음. 이는 온라인 자원에서 얻을 수 있는 호기심과 발견의 기쁨을 제공했음
  - 여행 중에도 백과사전을 가져가 읽었음. 이는 아이들이 기술에 의존하지 않고도 다양한 필요를 충족할 수 있는 방법이 있음

- 젊은 여성과 십대들이 선물 요청과 성적화된 댓글을 받는 것이 흔하다는 것에 놀람. 이는 18세 미만의 사람들에게 큰 영향을 줄 수 있음

- 내부 보고서가 경영진이 듣고 싶어하지 않는 내용을 작성하는 이유에 대한 의문
  - 경영진이 듣고 싶어하지 않는 것을 인지하지 못하는지
  - 경영진이 실제로 듣고 싶어하지만, 의도적으로 편향된 해석을 원하는지
  - 정보가 건설적으로 사용될 것이라고 생각하는지
  - 정직한 연구자로서의 역할을 다하려는 것인지
  - 해고를 피하기 위한 일자리 보안인지
  - 스캔들이 공개될 경우를 대비한 문서 기록을 남기려는 것인지

- 켄터키 법무장관 사무실의 부적절한 검열 처리 방식이 재미있다고 생각함

- 부모들이 자녀의 기기에서 특정 사이트를 차단했으면 좋겠다고 생각함. 검열과 감시를 확대하지 않아도 됐을 것임

- 소셜 미디어가 중독적이어서 스스로 차단해야 했던 경험을 공유함. 교육적 관점에서 비디오를 보는 것은 유용할 수 있지만, LLM 요약을 통해 유용한 내용을 파악하는 것이 좋음