▲

프랑스에서 X 사무실 압수수색, 영국은 Grok에 대한 새 조사 착수

 (bbc.com)
1P by GN⁺ 2일전 | ★ favorite | 댓글 1개
  • 프랑스 사이버범죄 수사부가 X의 파리 사무실을 압수수색하며, 불법 데이터 추출과 아동 음란물 소지 공모 혐의를 조사 중임
  • Elon Musk와 전 CEO Linda Yaccarino는 4월 청문회 출석을 통보받았으며, X는 이번 조사를 “정치적 공격”이라 반박함
  • 영국 정보위원회(ICO) 는 AI 도구 Grok이 성적 이미지·영상 생성 가능성을 이유로 별도 조사를 개시함
  • Ofcom은 X 플랫폼의 성적 딥페이크 유포 문제를 긴급 사안으로 다루고 있으나, 챗봇 관련 권한이 부족하다고 밝힘
  • 유럽과 영국의 동시 조사로, X와 Grok의 데이터 처리 및 콘텐츠 관리 책임이 국제적으로 확대되는 상황임

프랑스의 X 사무실 압수수색

  • 프랑스 파리 검찰청 사이버범죄부가 X 사무실을 압수수색함
    • 혐의에는 불법 데이터 추출, 아동 음란물 소지 공모, 성적 딥페이크를 통한 초상권 침해 등이 포함됨
    • 수사는 2025년 1월 X의 추천 알고리듬 콘텐츠 조사로 시작되어, 같은 해 7월 AI 챗봇 Grok으로 확대됨
  • 검찰은 X가 여러 법률을 위반했는지 조사 중이며, Musk와 Yaccarino는 4월 청문회 출석 명령을 받음
  • X는 성명을 통해 “표현의 자유를 위협하는 남용 행위”라며 혐의를 부인함
    • Musk는 X에 “정치적 공격”이라고 게시했고, Yaccarino는 “미국인에 대한 정치적 보복”이라 주장함

영국의 Grok 관련 조사

  • 영국 Ofcom은 Grok이 생성한 성적 딥페이크 이미지가 X에서 유포된 사건을 계속 조사 중임
    • 피해자와 정치인, 온라인 안전 단체들이 1월에 강하게 비판한 바 있음
    • X는 이후 해당 행위를 차단했으며, Ofcom은 이를 “긴급 사안”으로 다룸
  • 그러나 Ofcom은 챗봇 관련 불법 이미지 생성을 직접 조사할 권한이 부족하다고 밝힘
  • 이에 ICO가 Ofcom과 협력해 Grok의 개인정보 처리 방식을 조사하기로 함
    • ICO의 William Malcolm은 “동의 없이 개인 데이터를 이용해 성적 이미지가 생성된 점이 심각한 문제”라고 언급함
  • 1월 말 유럽연합 집행위원회도 Grok의 모회사 xAI에 대한 별도 조사를 발표함
    • 위원회 대변인은 프랑스 당국과 X 사무실 수색 관련 협의 중이라고 밝힘

Pavel Durov의 비판

  • Telegram 창립자 Pavel Durov는 프랑스 당국을 비판하며 “** 자유로운 국가가 아니다**”라고 주장함
    • 그는 “프랑스는 자유를 허용하는 모든 소셜 네트워크를 형사적으로 탄압하는 유일한 나라”라고 게시함
  • Durov는 2024년 8월 플랫폼 내 범죄 활동 방치 혐의로 프랑스에서 체포되었으며, 이후 운영 방식을 일부 수정한 뒤 2025년 3월 출국 허가를 받음
    • 변경 사항에는 법적 요청 시 사용자 데이터 제공이 포함됨
▲
GN⁺ 2일전  [-]
Hacker News 의견들

  • 물리적 압수수색이 무의미하다고 말하는 사람들에게 하고 싶은 말이 있음
    법을 잘 지키는 정상적인 회사를 전제로 생각하면 그렇겠지만, 의심스러운 일을 하는 순간 모든 좋은 관행이 사라짐
    이메일을 암호처럼 쓰거나 삭제하고, 기록을 숨기려 하지만 결국 흔적은 남게 됨
    이런 이유로 복잡한 활동을 추적하기 위해선 실제 압수수색이 필요함

    • 이건 그냥 기본적인 수사 절차임
      범죄 혐의가 있다면 증거를 확보해야 함. 압수수색 없이 기소하는 건 말이 안 됨
    • 단지 “AI 누드” 때문이라면 과하다고 생각함
      AI가 만든 이미지는 가짜 디지털 그림일 뿐인데, 마치 국가 차원의 분노를 조장하는 것처럼 보임
      십대 소년들 장난감 수준인데, 이걸로 국가적 분노 쇼를 하는 건 우스움
    • 사실 이 압수수색은 회사를 처벌하기 위한 수단일 뿐, Grok 관련 데이터를 얻으려는 의도는 없어 보임

  • 어떤 플랫폼도 CSAM(아동 성착취물) 을 허용해선 안 됨
    그런데 X는 안전장치나 콘텐츠 필터링에 돈을 쓰지 않음. 이건 검열 문제가 아니라 책임 회피 문제임

    • 동의하지 않음. 도구를 만든 사람보다 사용자를 처벌해야 함
      도구 제공자에게 책임을 묻기 시작하면 결국 자유의 축소로 이어짐
    • 예전 트위터나 BlueSky, Mastodon에도 그런 콘텐츠가 많았음. 새삼스러울 게 없음
    • 90년대에도 인터넷에서 CSAM이 퍼졌고, 그때도 사회는 충격을 받았음
      그런데 왜 지금 갑자기 이렇게 강경하게 나오는지 의문임
      혹시 Epstein 사건 이후 상류층 관련 의혹을 덮기 위한 “가짜 단속”은 아닐까 생각함
    • 예전엔 CSAM이 실제 아동을 의미했는데, 이제는 AI 생성 이미지까지 포함됨
      그렇다면 폭력적인 AI 이미지도 금지해야 하나? 영화 수준의 잔혹함은 괜찮은가?
      어디까지를 “허용 불가”로 볼지 모호함
    • Grok이 실제로 CSAM을 생성했다는 증거를 본 적이 없음
      수영복 합성 정도는 봤지만, 법적 정의상 CSAM은 아님

  • “조직적 데이터 사기” 혐의가 있다는데, 이게 넓게 적용되면 소셜미디어 산업 전체에 영향이 클 것 같음

    • 이건 “사람을 정해놓고 죄를 찾는” 식의 수사로 보임
      EU가 중국이나 러시아처럼 외국 소셜미디어 통제를 강화하려는 움직임 같음
      미국이 표현 규제를 더 받아들이지 않으면, EU는 자체 대안을 밀어붙일 듯함

  • HN답게, 법치와 CSAM 문제로 다들 열띤 토론 중임

  • X/Grok의 소유주 형제가 아동 성매매 전과자와 연루됐다는 보도가 있음
    Grok이 아동 포르노 생성기로 불릴 정도인데, 여전히 “음모론”이라며 무시하는 사람도 있음

  • 프랑스 검찰이 X를 여러 법 위반 혐의로 조사 중이라는데, 이건 단순한 정치적 압박으로 보임
    현지 직원 괴롭히기 외엔 실익이 없음

    • 하지만 기록 압수는 정상적인 수사 절차이기도 함
      프랑스 사법 시스템이 합리적이니, 특별한 증거가 없다면 정당한 수사로 봄
    • 회사가 실제로 CSAM과 딥페이크 포르노를 유포해 수익을 냈다는 증거가 있음
      고의성이 있었는지 확인하려면 압수수색이 필요함
      관련 법적 논의는 이 논문에서도 다뤄짐
    • 아무리 그래도 이건 정치적 압박임. EU는 이견을 용납하지 않음
    • OpenAI나 Google도 비슷한 문제를 겪고 있음
      아무리 돈을 쏟아도 AI의 악용을 완전히 막긴 어려움

  • 프랑스 사무소를 급습해서 뭘 찾겠다는 건지 궁금함. “Grok의 CSAM 계획서”라도 있을까?

    • 놀라겠지만, 사람들은 정말로 이메일에 범죄 계획을 적어둠
      예시로 Facebook 내부 문건이 있음
    • Grok이 문제 이미지를 생성한다는 걸 알고도 방치했는지, 내부 의사결정 기록을 찾으려는 것 같음
    • 프랑스 지사에서 본사에 법 위반 가능성을 경고한 이메일이 있을 수도 있음
    • WaPo 기사에 따르면 xAI가 의도적으로 성적 콘텐츠 제한을 완화했음
      직원들이 위험 콘텐츠로 모델을 훈련시켰다는 증언도 있음
      수사팀은 이런 내부 커뮤니케이션과 무시된 경고를 찾으려는 듯함
    • Epstein 파일 공개 이후, “범죄 계획 이메일”이 실제로 존재할 가능성이 높아졌다고 생각함

  • 이번 사건은 AI 검열 옹호론자들에게 명분을 준 셈임
    이제 AI 기업은 사용자보다 모델 자체의 책임을 져야 하는 시대가 됨
    결국 폐쇄형 모델과 신원 인증이 강화될 것 같음

    • 다른 플랫폼과 다를 게 없음. 단지 이번엔 “배포”가 아니라 “생성”이라는 점이 다름
    • 문제는 생성 가능성이 아니라, 그걸 알고도 홍보했다는 점임
      실제 인지 여부가 법적 책임의 핵심임
    • X가 불법 콘텐츠 유통을 막기 위해 충분히 조치했는지 의문임
      AI 생성 기능을 추가하면서 오히려 불법 콘텐츠 생산을 촉진한 셈임
    • 검열이 아니라 비정렬 플랫폼에 대한 제재라고 봄
      EU는 X 인수 이후부터 이 플랫폼을 눈엣가시로 여겨왔음
    • “검열”이 아니라 단순히 운영 책임의 문제임
      필터링 없이 방치했다면 그건 명백한 과실임

  • 이런 논란은 SpaceX IPO에도 악영향을 줄 것 같음

    • xAI 수사가 SpaceX와의 계약에도 영향을 미치면, 이해상충 문제로 소송이 이어질 가능성이 큼

  • “러시아인이 프랑스 감옥에서 자유를 논한다”는 건 아이러니함
    프랑스는 그런 범죄자들을 환영하지 않는다는 메시지로 들림

답변달기