EU, 아동을 겨냥한 TikTok·Instagram의 ‘중독적 설계’ 단속 추진

• EU 집행위원회는 올해 후반 TikTok과 Instagram의 중독적 설계 기능을 겨냥한 규제 조치를 추진할 계획임
• 대상에는 TikTok의 무한 스크롤, 자동 재생, 푸시 알림처럼 어린이 이용을 붙잡는 기능이 포함됨
• Meta는 Instagram과 Facebook에서 자체 최소 연령 13세 기준을 제대로 집행하지 못한다는 판단을 받음
• EU는 섭식장애·자해 콘텐츠로 이어지는 토끼굴 문제를 조사하며, 개인정보 보호 기준을 앞세운 연령 확인 앱을 개발함
• 온라인 아동 안전 전문가 패널 조언과 조사 결과가 나온 뒤, 이르면 여름에 관련 법안 초안이 준비될 수 있음

---

EU의 소셜미디어 아동 보호 규제 추진

• EU 집행위원회는 TikTok과 Instagram의 중독적 설계 기능을 겨냥해 올해 후반 조치를 취할 계획임
• Ursula von der Leyen EU 집행위원장은 덴마크에서 열린 European Summit on Artificial Intelligence and Children에서 소셜미디어 플랫폼의 특정 기능을 대상으로 삼겠다고 밝힘
• 규제 대상에는 TikTok의 무한 스크롤, 자동 재생, 푸시 알림처럼 어린이 이용을 계속 붙잡는 기능이 포함됨
• Meta도 Instagram과 Facebook에서 자체 최소 연령 13세 기준을 제대로 집행하지 못한다는 판단을 받음
• EU 집행위원회는 ByteDance와 Meta에 논평을 요청함

유해 콘텐츠와 연령 확인

• EU는 어린이가 유해 콘텐츠의 토끼굴(rabbit holes) 로 빠지게 하는 플랫폼 구조를 조사 중임
• 유해 콘텐츠 예시로는 섭식장애나 자해를 조장하는 영상이 제시됨
• EU 집행위원회는 자체 연령 확인 앱을 개발했으며, von der Leyen은 이 앱이 “세계에서 가장 높은 개인정보 보호 기준”을 갖췄다고 밝힘
• 회원국은 곧 이 앱을 디지털 지갑에 통합할 수 있고, 온라인 플랫폼도 이를 쉽게 집행할 수 있음
• von der Leyen은 “더 이상 변명은 없다. 연령 확인 기술은 사용 가능하다”고 말함
• EU 집행위원회는 온라인 아동 안전 전문가 특별 패널의 조언과 조사 결과를 기다리고 있으며, 이르면 여름에 법안 초안을 준비할 수 있음

DSA 위반 판단과 법적 압박

• EU 집행위원회는 최근 Meta가 Facebook과 Instagram에서 13세 미만 이용자를 막지 못해 EU Digital Services Act를 위반했다고 판단함
• 예비 조사에서는 미성년자가 확인 절차를 쉽게 우회할 수 있다는 결론이 나옴
• 소셜미디어 플랫폼의 아동 안전을 둘러싼 법적 감시는 3월 미국에서 Meta와 YouTube가 중요한 법원 판결에서 패소한 뒤 커짐
• 해당 판결은 무한 스크롤과 자동 재생 같은 설계 기능이 청소년의 중독과 정신건강 피해에 기여했다고 판단함

미국 빅테크 단속과 국제적 확산

• EU는 지난 1년 동안 기술 대기업의 책임성을 강화하는 법 집행 과정에서 미국 Big Tech 단속을 확대해왔음
• 일련의 벌금은 미국 당국자의 비판을 불렀고, 미국 당국자들은 EU가 AI 경제 참여 기회를 놓칠 위험이 있다고 경고함
• Donald Trump 미국 대통령은 지난 2년간 총 70억 달러 이상에 달한 미국 기업 대상 벌금에 대응하고 있음
• Apple, Meta, Google은 EU의 반독점 및 경쟁법 위반으로 벌금을 부과받았고, 이를 다투고 있음
• EU 집행위원회는 올해 초 Elon Musk의 X를 대상으로, 챗봇 Grok이 생성한 여성과 아동의 비동의 성적 노골 콘텐츠 확산과 관련해 조사를 시작함

16세 미만 소셜미디어 제한 흐름

• 각국 정부는 소셜미디어 피해로부터 아동을 보호하기 위한 입법을 검토하고 있음
• 호주는 12월 16세 미만을 대상으로 한 광범위한 소셜미디어 금지를 시행한 첫 국가가 됨
• 이후 16세 미만 소셜미디어 금지 흐름이 전 세계 정부들 사이에서 힘을 얻고 있음
• 유럽에서는 Spain, France, U.K.가 아동을 소셜미디어에서 배제하기 위한 자체 입법을 제안하고 있음

[GN⁺]

Hacker News 의견들

• 알고리즘으로 데이터를 제시한다면 더 이상 중립적인 공통 운송자가 아니며, 제시한 콘텐츠에 책임을 져야 함
  사용자가 직접 결정하게 하면, 소셜 미디어 1.0처럼 책임 범위가 달라질 수 있음

  • Hacker News도 알고리즘으로 데이터를 제시하는 사이트라서, 그 정의라면 Hacker News도 사라져야 함
    더 정확히는 개인화 추천 알고리즘을 겨냥한다고 보는 편이 맞고, 추천 알고리즘을 제공한다고 해서 사이트가 중립적인 공통 운송자가 아니게 된다고 보기는 명확하지 않음
  • 사용자가 앱을 열었을 때 첫 번째로 보여줄 영상은 무엇이어야 하는지부터 문제가 됨
    수백만·수천만 개 영상 중에서 사용자가 어떻게 직접 고르나? YouTube처럼 검색할 수 있게 해도 검색 결과 순위를 어떻게 매길지가 필요하고, 그것도 알고리즘이라 전혀 쉽게 풀 수 있는 문제가 아님
  • 논의가 몇 차례 반복되면서 “최신순이든 인기순이든 무언가 정렬하려면 결국 퀵정렬 같은 알고리즘이 필요하다”는 지점에 사람들이 걸려 있음
    대중이나 정치인이 말하는 “알고리즘”은 그런 뜻은 아니지만, 정확히 무엇을 의미하는지는 다소 모호함. EU는 이 지점을 충분히 이해하고, 그래서 중독적 설계라는 표현에 초점을 맞추는 듯함. 문제는 딱 잘라 말할 수 있는 알고리즘 자체가 아니라, 유도되는 행동과 관련된 흐릿한 영역이라는 점이 드러남
  • 이건 법 현실로 옮기기 어려운 문제임. 결국 무엇이 알고리즘인가를 정의해야 하기 때문임
    광고를 추가하는 것도 알고리즘인가? 좋아요를 포함하는 것도? 이전 영상이 끝난 뒤 다음 영상을 자동 재생하는 것도? 무한 스크롤도? 이런 질문이 계속 생김
  • CDA 230의 인터랙티브 컴퓨터 서비스는 공통 운송자와 같지 않음
    이 차이를 놓치고 “간단히 해결된다”고 말하는 건 충분히 숙고한 제안으로 보이지 않음

• 이건 아이들만의 문제가 아님
  많은 성인에게도 필요함. 중독성 있는 앱은 아주 잘 설계돼 있는 반면, 대부분의 차단기는 무시하기 너무 쉽거나 계속 쓰기엔 너무 성가심. 같은 문제를 겪어서 작은 iOS 차단기를 만들었고, 사람들이 싫어하지 않으면서도 실제로 효과가 있을 만큼 엄격하게 만드는 게 핵심 난제임

  • 라디오에서 중국이 학교 시험 기간에 하는 조치를 들었는데, 모든 학교가 같은 시기에 시험을 보고 그 기간에는 밤에 소셜 미디어가 차단된다고 함
    정확한 시간은 기억나지 않지만 아마 오후 10시~오전 6시였던 듯함. 전반적으로 모두에게 좋은 정책일 수도 있겠다는 생각이 듦. 시험 시간에는 AI 회사들도 오프라인이 된다고 들은 것 같지만, 이 부분은 잘못 기억했을 수도 있음
  • 토스트 알림이 큰 실수였고, 배지도 마찬가지임
    이상적인 세상에서는 사용자가 누군가 연락을 시도했다는 알림을 계속 받을 수 있는 것은 음성사서함뿐이어야 하며, 그것도 다른 것들과 같은 스팸 규제를 받아야 함
  • 이런 앱들을 전부 혐오하는 성인이지만, 그 결정을 대신 내릴 권한을 정부에 주고 싶지는 않음
  • 성인에게도 같은 보호를 적용한다면 나이 확인도 필요 없어짐

• 피해자가 18세가 되는 순간 왜 이런 알고리즘이 갑자기 괜찮아지는지 모르겠음
  모두에게 해롭고, 규제할 생각이 있다면 누구에게도 쓰지 못하게 불법화해야 함

  • 성인은 통제당할 양이 아니고, 일반 대중의 관심사보다 내 관심사에 맞는 것들을 추천 알고리즘으로 보는 편이 훨씬 좋음
    오히려 모든 소셜 미디어에 내 추천 모델을 업로드해서 더 잘 큐레이션하고, 피하고 싶은 주제 근처에는 블랙홀을 두고, 탐색을 위해 약간 흐리게 조정하는 옵션도 있으면 좋겠음
  • 이 기사만 보면 무한 스크롤이나 “다음 영상 보기” 같은 방식이 사용자 나이에 따라 규제되는지는 명확하지 않음
    그런 방식을 쓰는 플랫폼들이 아이들을 자주 겨냥한다고만 되어 있음
  • 담배와 같음. 아이들에 대한 규제는 사회적으로 보호가 필요하다는 합의가 비교적 쉬워서 훨씬 수월함
    성인에게 적용하는 건 합의가 훨씬 약해서 훨씬 어려움
  • 발달이 덜 된 뇌는 올바른 선택을 할 능력이 낮다는 발상임
    그렇다면 왜 18세가 되면 갑자기 자기 행동에 책임을 지게 하는지도 같은 질문이 됨
  • 자유 사회에서는 성인이 나쁜 선택을 하는 비용을 대체로 감수할 만하다고 보지만, 아이들은 스스로 그런 선택을 할 성숙함과 판단력이 부족하다고 봄
    성인 대부분도 성숙함과 판단력이 부족하지만, 성인이 나쁜 결정을 하도록 허용하는 것이 누군가에게 어떤 결정은 너무 나빠서 허용하면 안 된다고 정할 권력을 주는 것보다 보통 덜 위험함

• 특히 무한 스크롤 제한은 소셜 미디어의 중독성과 해로운 영향을 줄이는 데 전반적으로 좋은 일이라고 봄
  HN이 피드나 끝없는 목록 대신 페이지를 쓰는 점이 정말 마음에 듦

  • HN에서 또 정말 좋은 점은 제목이 모두 지루하고 요점을 바로 말하도록 되어 있다는 점임
    제목 가이드라인[1]은 훌륭하고, 더 많은 웹사이트와 기존 미디어도 그렇게 했으면 좋겠음. 내 관심 밖인 것들이 내 시간과 주의를 낭비하려 들지 않음
    [1] https://news.ycombinator.com/newsguidelines.html
  • 핵심은 이런 기능들이 중독되도록 설계됐다는 데 있음
    “무한 스크롤”은 구현 세부사항일 뿐이라, 그것만 금지해도 다른 모든 기법으로 계속 중독성을 만들 것임

• 팟캐스트에서 소셜 미디어 알고리즘을 현대판 담배라고 부르는 걸 들었는데 정말 와닿았음
  이 회사들은 자기 제품이 중독적이고 사용자에게 나쁘다는 걸 알면서도 계속 밀어붙임. 담배처럼 아이들뿐 아니라 모두에게 나쁨. 그래서 Safari용 알고리즘 차단기를 만들었고, 추천 알고리즘이 아예 없으면 소셜 미디어가 얼마나 더 쾌적해지는지 놀라울 정도임. EU와 다른 관할권도 이 문제를 아이들에 한정하지 말고 더 넓게 봐야 하지만, 왜 거기서 시작하는지는 이해됨

  • 이 댓글은 소셜 미디어에 대한 분노를 활용하려는 유료 앱 광고임
    노력은 인정하지만, 금전적 이해관계가 있으므로 이 주제에 대한 중립적인 의견은 아님. 소셜 미디어 피드를 필터링하고 싶다면 무료 대안 플러그인도 많음
  • 소셜 미디어를 현대판 담배에 비유하는 건 정말 완벽함
    상상하기 어려울 만큼 부유한 기업 집단이 해로운 제품을 전 세계에 퍼뜨리고, 최대한 중독적으로 만들면서 해로움을 입증하는 연구는 적극적으로 묻어버림. 언젠가는 소셜 미디어와 스마트폰 사용을 흡연을 바라보듯 돌아보게 되길 진심으로 바람
  • Pixelfed와 Mastodon으로 옮긴 뒤 소셜 미디어에 쓰는 시간이 예전만큼 많지 않아졌음
    좋은 사람들을 팔로우하지 않아서가 아니라, 내 도마뱀 뇌를 파고들어 계속 스와이프하게 만드는 알고리즘이 없으니 그냥 생각이 안 남. 떠올라서 확인할 때는 항상 즐겁고, 글 몇 개 보고 흥미로운 링크 하나 읽은 뒤 20분 후 현실로 돌아옴. 사용자 입장에서는 훌륭하지만, 광고 기반 사업을 만들 수 있을지는 의심스러움. “재미있는” 영상 수십 개에 빨려 들어가지 않을 만큼 영리하다고 말하고 싶지만, 거기에 한 시간을 쓰면 그 시간은 사라지고 남는 게 없음
  • Google 이미지에서 eu cigarettes boxes를 찾아보면 됨
    금지는 얇은 쐐기일 수 있지만, 소셜 미디어에도 그런 경고 라벨 같은 것이 필요하다고 봄
  • 담배 업계처럼, 아이들을 겨냥하는 방법에 대한 비공개 메모가 있으면서도 절대 아이들을 겨냥하지 않는다고 주장함
    그러고는 그 책임을 다른 누군가에게 떠넘기는 법안을 강하게 밀어붙임. 담배 업계가 미성년자에게 담배 판매를 금지하는 법을 위장 여론전으로 밀었던 것과 비슷함. 자체 연구로는 청소년 흡연율에 큰 차이가 없고 오히려 “반항적인” 이미지가 좋아진다는 걸 알면서도 그랬음. Meta가 운영체제가 나이를 선언하게 만들려고 크게 밀어붙이는 모습과 익숙하게 닮아 있음

• 이에 동의하지 않음. 화학 물질 같은 이야기가 아니라면 중독성은 주관적인 면이 있음
  어느 시점에는 책, 영화, 만화 등도 중독적이라고 여겨졌을 수 있음. 미성년자에게는 소셜 네트워크 전반을 금지해야 하고, 나이트클럽이 입장객 나이에 책임을 지듯 소셜 네트워크 자체가 사용자 나이 확인 책임을 져야 함. “운영체제 나이 확인” 같은 헛소리는 아이들을 보호하려는 게 아니라 감시하려는 의도가 분명함

  • “화학 물질이 아니라면 중독성은 주관적”이라는 건 왜 그렇게 말하는지 모르겠음
    이런 앱의 중독 패턴이 약물과 같은 방식으로 도파민을 자극한다는 건 잘 알려져 있음. 어떤 의미에서는 도파민이 중독의 중심에 있는 “화학 물질”이고, 헤로인과 알고리즘은 그것을 얻는 서로 다른 방법일 뿐임
    https://med.stanford.edu/news/insights/2021/10/addictive-pot...
  • 중독성은 ∆FosB 유전자 발현으로 측정됨
    어떤 물질이나 활동의 “중독성”은 ∆FosB가 얼마나 발현되는지로 평가할 수 있으므로, 결코 완전히 주관적인 것만은 아님. 책, 영화, 만화 등도 모두 이 척도에서 측정 가능하고, 일반적으로 모든 것은 어느 정도 중독성을 가짐
  • 이런 방식으로 접근하는 이유는 소셜 미디어를 경계 짓기가 훨씬 어렵고, 일반적으로 해롭다고 여겨지는 대상 자체도 아니기 때문임
  • 중독은 적어도 상당한 해로운 영향을 일으키는지로, 그저 몰입하게 만드는 것과 꽤 명확히 구분할 수 있음
    예를 들어 Wikipedia는 “중독은 즉각적인 심리적 보상을 주는 약물을 사용하거나 행동을 하려는 지속적이고 강한 충동이, 상당한 해악과 다른 부정적 결과에도 불구하고 나타나는 신경심리학적 장애”라고 설명함. 그렇다면 중독적이라는 건 상당한 인구 비율에서 중독을 일으킬 경향이 있다는 뜻이 됨
  • 책과의 차이는 책이 각 독자에게 개인화되지 않는다는 점임
    그래서 책을 예로 드는 건 적절하지 않다고 봄

• HN에서 정말 좋은 점은 무한 스크롤이 아니라는 사실임
  첫 화면을 훑고, 눈에 띄는 것이 있으면 봄. 댓글이 많으면 중요해 보임. 훑고 읽는 일이 끝나면 끝임. 소셜 미디어에서는 끝이 없음

  • 그래서 /new와 새로고침 버튼이 생겼음
    솔직히 미루기 문제가 있어서, HN도 다른 소셜 네트워크만큼 좋은 핑계가 됨

• 이런 사이트들은 직접 쓰지도 않고, 해당 나이대도 아님
  Instagram은 광고로 가득해서 바로 짜증이 나고, 그래서 안 쓰게 됨. 제품을 홍보하려는 입장이라면 참여도를 높이려는 면은 이해함. 최근에는 Reddit을 스크롤하거나 로그인해 보는 것과 YouTube 영상을 보는 것을 멈췄는데, 정말 끝이 없고 이상할 정도임. 뭔가 하지 않고 있으면 불안하고 심심해서, 예전처럼 YouTube 영상을 틀어놓고 동시에 Reddit을 스크롤하는 식의 멀티태스킹을 안 하려 노력 중임. 이제는 음악을 들으며 컴퓨터 작업을 하거나, 무언가를 볼 때는 그것만 보려고 함. 실제 사회적 교류도 찾게 되어 커피숍 같은 곳에 가고 싶어지지만, 안타깝게도 교외에 살아서 커피숍에 가려면 차를 몰아야 함. 지금 보는 건 이 사이트나 동기부여용 창업 관련 사이트 정도임

  • 어떤 창업 관련 사이트를 보는지 궁금함
    나도 일상에서 비슷한 단계에 있는 느낌임

• 왜 항상 정부가 부모 역할을 대신하게 하려는지 모르겠음
  어머니는 내가 규칙을 지키지 않으면 컴퓨터를 압수하곤 했음

  • 대규모로 웰빙에 해롭다는 것이 입증된 제품을 규제하자는 것임
    그게 부모 역할과 무슨 관련이 있나?
  • 이건 아이들에 관한 문제가 아님

• 성인인 나에게도 이런 보호가 필요함

  • 소셜 미디어 사용은 ∆FosB 발현의 영향을 받으므로, 소셜 미디어를 덜 사용할수록 덜 쓰고 싶어짐
    대략 3개월 정도의 시간표로 진행됨