▲

TikTok의 '중독성 디자인'이 유럽에서 불법으로 판정됨

 (nytimes.com)
1P by GN⁺ 4시간전 | ★ favorite | 댓글 1개
  • EU 규제 당국이 TikTok의 무한 스크롤, 자동 재생, 추천 알고리듬 등 핵심 기능이 중독성 디자인에 해당한다는 예비 결정을 내림
  • 이용자의 신체적·정신적 건강에 잠재적 해를 끼치며, 미성년자와 취약 성인 포함 전체 이용자에게 영향
  • 소셜 미디어 중독성에 대한 법적 기준이 적용된 것은 전 세계 최초라고 EU 관계자가 밝힘
  • TikTok은 서비스의 기본 설계를 변경해야 하며, 위반 시 글로벌 매출의 최대 6% 벌금 부과 가능
  • 미국 내 소송, 유럽 각국의 미성년자 소셜 미디어 금지 움직임과 맞물려 글로벌 규제 압력이 급속 확대 중

EU의 예비 결정 내용

  • European Commission이 금요일 TikTok의 무한 스크롤, 자동 재생, 추천 알고리듬이 "중독성 디자인"에 해당하며 EU 온라인 안전법을 위반한다는 예비 결정 발표
  • 해당 기능이 미성년자 및 취약 성인 포함 이용자의 신체적·정신적 건강에 잠재적 해를 끼친다고 지적
  • "TikTok은 서비스의 기본 설계를 변경해야 한다"는 공식 입장 발표
  • TikTok에 무한 스크롤 기능 제한, 새로운 화면 시간 제한 도입, 추천 시스템 변경을 요구
  • 소셜 미디어 중독성에 대해 법적 기준이 적용된 것은 전 세계 최초

TikTok의 이용 행태와 규제 근거

  • 규제 당국은 TikTok이 강박적 사용 징후를 무시했다고 비난, 미성년자의 야간 이용 시간과 앱 실행 빈도 데이터를 포함
  • TikTok이 새 콘텐츠로 이용자에게 보상을 제공해 계속 스크롤하게 만들고, 뇌를 "자동 조종(autopilot)" 상태로 유도
  • TikTok은 유럽에서 2억 명 이상의 이용자 보유
  • 2024년부터 이용자, 특히 청소년에 대한 "래빗 홀 효과" 로 EU 조사를 받아옴
  • Pew Research Center의 2025년 보고서에 따르면, 미국 10대의 16% 가 TikTok을 "거의 항상" 사용한다고 응답

잠재적 벌금 및 절차

  • TikTok은 Digital Services Act 위반으로 글로벌 매출의 최대 6% 에 해당하는 벌금 부과 가능
  • 최종 결정 시한은 제시되지 않았으며, TikTok은 현재 혐의에 대해 반론할 기회 부여
  • European Commission 부위원장 Henna Virkkunen은 "소셜 미디어 중독은 아동과 10대의 발달 중인 두뇌에 해로운 영향을 미칠 수 있다"며, 유럽 법이 플랫폼에 이용자에 대한 영향에 책임을 부여한다고 발언

미국 내 소송과의 유사성

  • EU 규제 당국의 판단은 미국 내 다수의 소송에서 제기된 주장과 유사
  • 끝없는 피드, 자동 재생 동영상, 개인화 추천이 강박적 사용, 우울증, 섭식 장애, 자해를 유발했다는 주장
  • TikTok은 지난달 로스앤젤레스에서의 소송에서 재판 직전 합의에 동의, 올해 예정된 일련의 사건 중 첫 번째 사례
  • Meta, YouTube, Snap 등을 대상으로 수천 명의 개인, 학군, 주 법무장관이 소송 제기
  • 해당 기업들은 혐의를 부인하며 소셜 미디어 사용과 중독 간 명확한 연관성이 없다고 주장

유럽 각국의 규제 강화 움직임

  • 스페인 Pedro Sánchez 총리가 이번 주 16세 미만 소셜 미디어 금지와 불법 콘텐츠 유포에 대한 기술 임원의 형사 책임 추진을 선언
  • "소셜 미디어는 실패한 국가가 되었다"며 "우리는 반격하고 있다"고 연설
  • 덴마크, 프랑스, 말레이시아, 스페인 등에서 저연령 10대의 플랫폼 접근을 차단하려는 노력 진행 중

EU의 기술 규제 맥락

  • European Commission은 수년간 반경쟁 행위, 허위 정보, 분열적 콘텐츠, 프라이버시 침해 비즈니스 모델에 대해 기술 산업을 규제해옴
  • 2025년 12월 Elon Musk의 소셜 미디어 플랫폼 X에 온라인 투명성 규칙 위반으로 1억 2천만 유로(약 1억 4천만 달러) 벌금 부과
  • 경제 성장과 혁신을 위해 일부 기술 규제를 완화하는 움직임도 있으나, 소셜 미디어 규제는 우선순위 유지
  • TikTok 조사를 통해 규제 대상이 미국 기업에만 한정되지 않음을 시사

미국과의 갈등 및 ByteDance의 과제

  • 트럼프 행정부는 EU가 미국 기업을 부당하게 표적으로 삼고 있다고 비판, 이 분쟁은 표현의 자유와 국경 간 플랫폼 규칙 설정 권한에 대한 논쟁으로 확대
  • ByteDance는 지난달 비중국계 투자자 그룹과 미국판 TikTok 설립을 위한 합의 체결, 수년간의 법적 분쟁 종결
  • 이 합의는 TikTok과 중국 간의 연결을 약화시키고, 베이징이 앱을 통해 미국 내 2억 명 이상의 이용자를 감시·조작할 수 있다는 우려에 대응하기 위한 조치
▲
GN⁺ 4시간전  [-]
Hacker News 의견들

  • archive.is 링크에서 관련 내용을 참고할 수 있음

  • PyData Berlin에서 TikTok 추천 알고리즘을 직접 구현하는 방법에 대해 발표했음
    TikTok의 개인화 추천 엔진은 세계에서 가장 가치 있는 AI 중 하나로, 클릭 후 1초 이내에 추천이 업데이트됨. 이처럼 피처 신선도(feature freshness) 가 낮으면 아무리 좋은 추천이라도 느리고 멍청하게 느껴짐
    이 시스템은 Apache Flink, Kafka, 분산 모델 학습 인프라 등 유럽 기술 기반으로 구성되어 있음
    핵심은 ‘온라인 학습’이 아니라, 클릭 이벤트가 1초 이내에 예측 피처로 반영되는 구조임
    이런 구조를 위해서는 Flink 같은 이벤트 기반 스트리밍 아키텍처가 필요함
    관련 영상은 YouTube 발표 영상, 참고 논문은 Monolith paper

    • TikTok에서 본 영상이 떠올라서 아주 대충 설명을 검색해도, 거의 항상 첫 번째 결과가 내가 찾던 영상이 나옴
      다른 어떤 플랫폼도 이렇게 정확한 검색 기능을 제공하지 못하는 것 같음
    • YouTube Shorts도 비슷하게 작동함. 짧게 넘기다가 개 영상 하나를 오래 보면, 다음 영상도 개 관련 영상이 나옴
    • Feldera 언급 고마움. Feldera와 IVM을 써서 오프라인-온라인 피처 엔지니어링 동기화를 완벽히 맞출 수 있음
      Feldera 문서의 예시에서 바로 시작할 수 있음
    • Flink는 이런 용도엔 너무 느림. 사용자별 상태를 추적하려면 Redis로도 훨씬 빠르게 가능함
      Flink는 오히려 병목이 될 수 있음. 만약 실제로 Flink를 쓴다면, 그건 경쟁 우위가 아님
    • Flink가 스택에 포함된 건 반가움. Kafka 대신 Pulsar가 들어갔으면 더 좋았을 것 같음

  • 디자인 패턴을 남용한다고 해서 금지하는 건 회의적임
    영화관에서 봤던 클리프행어나 시퀄이 여전히 매력적이었던 것처럼, 짧은 영상 포맷이 정부 개입을 받아야 할 이유는 모르겠음
    진짜 문제는 ‘조작적 디자인으로부터 보호’와 ‘개인의 선택 존중’ 사이의 경계가 어디냐는 것임
    중독성 있는 패턴은 스트리밍, SNS, 게임, 이메일 알림 등 어디에나 있음
    나는 정부 규제보다 미디어 리터러시와 투명성 강화가 더 중요하다고 생각함

    • 이런 앱들은 의도적으로 중독성을 높이도록 설계됨. 수십억 달러를 들여 사람을 붙잡아두는 구조를 만듦
      일반 사용자는 이런 초정밀 조작 시스템과 싸울 방법이 없음. 불공정한 싸움임
    • 사회는 시간이 지나며 ‘해로운 행동’을 스스로 규제하려 함. 완벽한 기준은 없고, 시대에 따라 달라짐
    • 짧은 영상은 기존 미디어 소비 패턴을 완전히 바꿨음. 알고리즘 기반 무한 스크롤은 인류에 해롭다고 생각함
    • 그런 논리라면 모든 엔터테인먼트가 인간 본성을 이용하는 것이므로 금지해야 함. 말이 안 됨
    • TikTok이 EU 규제에 대응하려면 영상 사이에 ‘쿨다운 딜레이’ 를 넣을 수도 있음. 하지만 결국 사용자는 더 오래 앱에 머물게 될 것임

  • 기사 제목이 실제 상황보다 과장되어 있음
    아직 결론이 난 게 아니라 TikTok이 대응할 기회를 주는 초기 단계임
    제목은 이미 결론이 난 것처럼 보이지만, 실제로는 조사 개시 단계임

    • 어떤 제목을 말하는 건지 궁금함. “Europe Accuses TikTok of ‘Addictive Design’ and Pushes for Change”라면, 그게 과장인가?

  • EU 집행위의 보도자료에 따르면
    TikTok은 ‘무한 스크롤’ 비활성화, ‘화면 시간 휴식’ 도입, 추천 시스템 수정 등 중독성 완화 조치를 요구받음
    하지만 진짜 문제는 추천 시스템 자체임. 콘텐츠를 일부러 덜 흥미롭게 추천해야 하나? 어느 정도로 나빠야 만족할까?

    • 나도 동의함. 앱의 본질은 사용자 관심 유지임. TikTok이 단지 더 잘하는 것뿐인데, 그걸 억제하는 게 해법일까?
      결국 ‘덜 좋은 콘텐츠’ 를 보여주는 게 목표라면, 사용자 경험만 나빠질 뿐임
    • 중국판 TikTok(抖音)은 아동용으로 이런 보호 장치가 이미 있음
    • 사실상 EU가 TikTok, X 등 소셜미디어에 벌금 부과할 명분을 쌓는 과정 같음
    • 목표는 단순함 — 중독성이 사라질 만큼 ‘나쁘게’ 만드는 것임

  • 법적인 건 잘 모르지만, 코로나 시기 TikTok 중독을 겪고 끊은 경험이 있음
    하루 4~8시간씩 보고, 설거지할 때도 영상을 틀었음

    • 음악을 하루 종일 듣는 것보다 TikTok이 더 나쁘다고 느껴짐. 하지만 그 이유를 설명하기는 어려움
    • 어떻게 끊었는지 궁금함
    • 짧은 영상은 정말 약물처럼 중독적임. YouTube Shorts를 몇 시간 본 뒤 마치 약에 취한 듯 멍해졌음
      그 이후로는 절대 안 들어감. 사람마다 취약성은 다르지만, 위험성은 분명함

  • Duolingo도 비슷한 심리 조작형 UX를 쓴다고 생각함
    연속 학습 스트릭 유지, 의도적 난이도 조절, 강제 복습 등으로 사용자를 붙잡음
    실제로는 사용자 목표(언어 숙달) 와 비즈니스 모델이 정반대임

    • 나에겐 오히려 스트릭이 부담감으로 작용함. 실패하면 동기부여가 떨어지고, 오히려 앱을 안 쓰게 됨
    • Duolingo를 너무 과대평가하는 듯함. 수업이 단조롭고 중독성도 없음. 대부분은 단순히 스트릭을 유지하려고 씀
      최근 AI 오버홀 이후 품질이 급락했고, 음성 합성도 망가짐
    • 요즘은 거의 모든 산업이 이런 무한 구독 모델로 움직임. 문제 해결보다 지속 결제를 유도함
    • 계정 삭제 페이지에서 본 부엉이 이미지가 인상적이었음 — 슬픈 부엉이 이미지
    • Duolingo는 별로지만, 대안인 Anki 플래시카드는 비기술 사용자에게 설정이 어렵다는 단점이 있음

  • HN 이용자들이 TikTok을 ‘무기화된 중독 기계’ 로 보는 게 의외임
    YouTube도 한때 훌륭한 추천 시스템을 가졌고, 관심사에 맞는 영상 추천이 뭐가 문제인지 모르겠음
    그냥 멍 때리며 보고 싶을 때 TikTok을 보든 TV를 보든 큰 차이가 있나?
    효율적이라는 이유로 자전거를 금지하지 않듯, 중독성만으로 금지하는 건 비합리적임

    • TikTok은 실제로 중독 유발 설계를 함
      TV는 모든 사람에게 같은 콘텐츠를 보여주지만, TikTok은 개인화된 피드를 제공함
      자전거는 중독되지 않지만, 약물처럼 중독되는 콘텐츠는 규제 대상이 될 수 있음

  • 나에겐 TikTok이 전혀 재미없었음. 30분 억지로 봤다가 바로 삭제함
    친구들은 “아직 알고리즘이 너를 몰라서 그래”라 했지만, 내 관심사 영상은 전부 쓰레기 수준이었음

    • TikTok 알고리즘은 기본적으로 인기 장르를 보여주고, 체류 시간(dwell time) 으로 세분화된 카테고리를 A/B 테스트함
      진짜 비결은 영상의 정확한 분류와 큐레이션임. 과거엔 TikTok이 직접 콘텐츠를 발굴하고 보상했음
    • 나도 비슷했음. 설치하자마자 현지 영상만 추천돼서 바로 삭제함. YouTube가 훨씬 콘텐츠 품질이 높음
    • 계정은 있지만, 친구들이 보내는 영상만 봄. 단순히 포맷 자체가 싫음
    • 중독될까봐 삭제했는데, Instagram이 Reels로 따라 하면서 결국 거기에 중독됨. 친구 메시지 때문에 삭제도 못 함

  • 무한 스크롤 금지는 좋은 디자인 자체를 금지하는 것과 비슷함
    사용성 향상을 불법으로 본다면, 모든 디자이너를 감옥에 보내야 함
    추천 엔진 금지도 말이 안 됨. YouTube, Amazon, Twitter의 추천도 다 같은 원리인데 TikTok만 문제인가?

    • 무한 스크롤은 좋은 UX일 수 있지만, 알고리즘 피드에서는 ‘한 번만 더’ 심리를 유도하는 다크 패턴이 됨
      기업들은 심리학자까지 고용해 도파민 수확 엔진을 설계함
      추천 알고리즘 자체를 금지하는 건 어리석지만, 이런 비즈니스 모델의 병폐는 규제가 필요함
      결국 문제는 기술이 아니라, 인간의 시간을 착취하는 경영 구조임
    • 무한 스크롤이 좋은 디자인이라면, 그걸 만든 디자이너가 아니라 그 목표를 강요한 관리자가 책임져야 함
답변달기