Meta, 내부 데이터 유출 뒤 직원 추적 프로그램 중단

 (wired.com)
1P by GN⁺ | ★ favorite | 댓글 1개
  • Meta는 직원 컴퓨터 입력을 수집하던 Model Compatibility Initiative(MCI) 데이터가 사내에 과도하게 노출된 뒤 프로그램을 일시 중단함
  • MCI는 4월 미국 직원 대상으로 도입됐으며, 마우스 움직임·클릭 위치·키 입력·화면 내용 같은 정보를 수집해 직원 반발을 불렀음
  • 경영진은 AI가 사람이 소프트웨어를 사용하는 방식을 배우려면 직원 데이터가 필요하다고 봤지만, 개인정보와 보안 우려가 실제 내부 노출 문제로 이어짐
  • Stephane Kasriel은 6월 18일 발견된 보안 문제가 4시간 안에 처리됐으나 초기 수정이 유지되지 않아 데이터 접근을 더 제한했다고 직원들에게 알림
  • Meta는 데이터 보호 통제가 효과적이라는 확신이 생길 때만 MCI를 재개하며, 장기적 가치를 평가할 데이터는 이미 충분히 모았다고 설명함

MCI 중단과 내부 데이터 노출

  • Meta는 직원 추적 프로그램 MCI를 일시 중단함
  • 중단은 MCI로 수집된 잠재적 민감 데이터가 사내 다른 직원에게 노출된 뒤 이뤄짐
  • Meta 대변인 Tracy Clayton은 프로그램이 개인정보 보호 장치를 갖추도록 설계됐고, 현재 Meta 직원이 데이터를 부적절하게 접근했다는 징후는 없지만 조사 동안 중단한다고 설명함

수집 데이터와 직원 반발

  • MCI는 4월 미국 직원에게 배포된 도구임
  • 직원들이 반대 청원에서 지적한 수집 대상은 다음과 같음
    • 마우스 움직임
    • 클릭 위치
    • 키 입력
    • 화면 내용
  • 출시 당시 직원은 MCI를 옵트아웃할 수 없었지만, 항의 뒤 제한적인 수준에서 변경됨
  • 직원들은 MCI가 개인정보·보안·개인의 자유를 침해할 수 있다고 우려해왔음

Meta가 MCI를 추진한 이유

  • Meta 경영진은 MCI의 데이터 수집이 AI 시스템 훈련에 필요하다고 반복해서 방어함
  • 목표는 AI가 사람이 컴퓨터 소프트웨어를 조작하는 방식을 학습하도록 하는 것임
  • 경영진은 직원들이 AI가 배울 수 있는 가장 좋은 사례라고 판단함

내부 보안 공지와 직원 반응

  • 월요일 Meta 엔지니어 한 명은 내부 보안 공지에서 MCI로 수집된 정보가 담긴 데이터베이스가 회사 내부 누구에게나 노출됐다고 알림
  • MCI 반대 활동에 참여했던 전 직원은 이 문제를 “a mess”라고 부르며, 직원들이 예상했던 일이라고 말함
  • 해당 전 직원은 리더십이 직원 우려에도 프로그램을 밀어붙였고, 노동자와 고객 데이터의 안전·개인정보 위험을 인정하지 않았다고 비판함
  • 월요일 내부 포럼에는 보안 문제에 대한 비판적 댓글이 쏟아졌고, 이후 Meta는 일부 직원이 놀랄 만큼 MCI 전체를 중단함
  • 몇몇 직원은 중단 발표 전까지 도구가 노트북에서 계속 실행되고 있어 혼란스러웠다고 말함

Kasriel의 공지와 재개 조건

  • Meta의 AI 연구를 관장하는 부사장 Stephane Kasriel은 월요일 늦게 직원들에게 MCI 중단을 알림
  • Kasriel에 따르면 보안 문제는 6월 18일 발견됐고 4시간 안에 처리됨
  • 다만 초기 수정이 유지되지 않아 데이터 접근을 추가로 잠가야 했음
  • 이 문제로 “일부 MCI 파생 데이터”가 의도보다 더 많은 사람에게 접근 가능해졌지만, 구체적 설명은 제공되지 않음
  • MCI는 Meta가 데이터 보호 통제의 효과를 확신할 때만 다시 활성화됨
  • Meta는 MCI의 장기적 가치를 평가할 충분한 데이터를 이미 수집했으며, 향후 MCI의 미래에 대해 더 공유할 예정임

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • Meta는 여전히 가장 뻔뻔한 회사이고, 일하기에도 부끄러운 회사에 가까움
    이 회사 제품 중 세상을 뚜렷하게 더 나쁘게 만들지 않은 것을 하나도 떠올리기 어렵다
    최근 하드웨어 진출도 Ray-Ban으로 술 취한 여성을 촬영하는 남성들, 감시 같은 식으로 일상적 상호작용의 신뢰를 망치는 방향을 찾고 있음
    더 “사려 깊은” 프런티어 연구소들에 있는 지인 몇 명은 이런 이유만으로 Meta 지원자를 바로 걸러낸다고 함

    • Facebook은 예컨대 주주들에게 많은 돈을 벌어줬고, 우리는 그게 세상을 더 나은 곳으로 만드는 것과 같다는 걸 알고 있음
    • 세상을 뚜렷하게 더 나쁘게 만들지 않은 제품이라면 zstd가 있음
      React와 PyTorch는 판단이 좀 갈림
    • Meta는 무슨 짓을 해도 성장하지 못하는 한 십대를 위한 황금 감옥 같음. 부끄러운 일임
    • Meta 제품이 사회에 나쁜 건 맞지만, 일하기 더 부끄러운 회사는 Palantir라고 봄
    • 2004~2005년의 Facebook은 정말 좋았음
      들불처럼 퍼졌고, 쓰는 재미도 컸다. 나와 대학 친구들, 그리고 그 친구들의 친구들만 있던 시절이었음

  • 자기들이 돈을 주고 붙잡아두고 싶었다는 직원들에게도 이런 짓을 한다면, 사용자 데이터에는 뭘 하려 들겠나
    사용자 시스템에 연결되는 자기들 시스템으로는 또 뭘 하려 들겠나
    “Dumb f*cks”는 이 회사의 1일 차부터 이어진 기조였던 셈임

  • 이런 유출이 우리가 들어가고 있는 감시 사회에 맞서는 유일하게 효과적인 저항이라는 확신이 점점 커짐
    Meta는 계속 이럴 것이고, 다른 고용주들도 아마 따라 할 것이며, 정부는 “적절한 법적 절차”를 통해 그 데이터를 자기 문서철에 추가할 것임
    감시카메라 확대, 채팅 통제, 익명성 제거 같은 일이 실시간으로 벌어지는 중이다
    이런 데이터가 유출되면 그게 얼마나 큰 책임 리스크인지 모두에게 분명해짐. Meta 임원들의 데이터도 그 더미 안에 있고, 군인과 의원들은 Flock 데이터베이스에 들어 있음
    PornHub가 정확한 취향 프로필을 갖고 있을 상원의원이 몇 명이나 될까
    물론 이런 데이터 유출에는 피해가 따른다. 하지만 그 피해가 모두가 어디서나 모두에게 감시당하는 것보다 정말 더 클까

    • 유출되지 않을 때 피해가 더 클 수도 있음
      권력자를 협박하는 데 쓰일 수 있기 때문임. 특별히 불법적인 일을 하지 않아도 논란이 될 발언이나 특이한 성적 취향만 있어도 끝이다
      물론 불법적인 것도 있을 수 있고, 불법이 전혀 없더라도 병행 구성 수사를 만들어낼 만큼은 충분할 수 있음

  • 링크된 글을 읽어보면, 유출된 데이터에는 일부 직원의 사적 대화가 평문으로 보이는 스크린샷과 성과 정보가 들어 있다고 나옴
    전체 화면 녹화를 해놓고 익명화가 잘 되리라 기대한 건 꽤 과감한 선택이었음

  • “규칙을 어기지 않으면 두려워할 게 없다”고 말하는 사람들은, 대부분의 회사가 규정대로만 일하기를 일종의 항의로 본다는 점을 생각해야 함
    규칙만 그대로 따라도 이 감시는 당신을 식별하고 제재하는 데 쓰일 것임

  • 저 시스템은 증거개시 절차에서 악몽이 될 것 같음

    • 오히려 훌륭한 아이디어처럼 들림
      이미 그걸 생각하고 “결정적 증거”를 만들 가능성이 가장 큰 직무는 감시 대상에서 빼고 있는지 궁금함

  • 쓰레기 같은 회사가 죽음의 나선으로 들어가고 있음

    • 안타깝게도 쌓아둔 현금과 Facebook이라는 황금알을 낳는 거위 덕분에 한동안은 계속 버틸 것임

  • 일시 중단했을 뿐이고, 다시 시작할 의도가 분명함
    왜 다운보트를 받는지 모르겠음. 기사에 말 그대로 이렇게 나옴
    “We will only re-enable MCI when we are confident in the effectiveness of our data protection controls,” Kasriel said.

  • Meta가 정말 돈을 많이 주나 봄

  • 아마 그 유틸리티를 AI로 작성했을 것임. AI가 보안을 제대로 못 지키는 건 그리 놀랄 일도 아님

답변달기