Meta 직원은 업무 중 추적을 최대 30분까지 거부할 수 있다

(bbc.com)

Meta는 직원의 키 입력과 마우스 클릭을 AI 모델 훈련에 쓰려던 계획을 축소하고, 데이터 수집을 한 번에 최대 30분 멈추는 통제를 추가함
새 통제는 직원이 MCI 데이터 수집을 일시 중지하거나 전체 예외를 요청할 수 있게 하며, Meta는 공식 논평을 거절함
직원 반발은 수주간 이어졌고, 추적 도입에 반대하는 청원은 1,500명 넘는 서명을 모음
Meta는 컴퓨터로 일상 작업을 돕는 에이전트를 만들려면 실제 사용 예시가 필요하며, 데이터는 다른 목적에 쓰지 않고 민감한 콘텐츠 보호 장치가 있다고 밝힘
내부 메모는 직원들이 제기한 개인 데이터, 배터리 수명, 캡처 시점 통제 문제를 인정하고, MCI 팀이 노트북 배터리 영향 완화를 위한 최적화를 도입했다고 전함

Meta의 직원 활동 추적 계획 축소

Meta는 화요일 내부 메모를 통해 직원 컴퓨터 활동 추적 계획을 축소함. 이 계획은 직원의 키 입력과 마우스 클릭을 기록해 AI 모델 훈련에 쓰는 도구와 관련됨.

Reuters에 따르면 새 통제는 직원이 데이터 수집을 “한 번에 최대 30분” 멈추게 하고, 이 계획에서 완전히 예외를 요청할 수도 있게 함. Meta는 공식 논평을 거절함.

Model Capability Initiative와 반발

이 도구의 이름은 Model Capability Initiative(MCI)임. Meta는 초기 발표 당시 “컴퓨터를 사용해 일상 작업을 완료하도록 돕는 에이전트를 만들려면, 모델에는 사람들이 실제로 컴퓨터를 어떻게 사용하는지 보여주는 실제 예시가 필요하다”고 밝힘.

Meta는 해당 데이터가 “다른 목적에는 쓰이지 않으며”, 도구에는 “민감한 콘텐츠를 보호하기 위한 안전장치”가 있다고 덧붙임.

직원 반발은 수주간 이어졌고, 일부 직원은 이 조치에 반대하는 청원을 시작함. 해당 청원은 현재 1,500명 넘는 서명을 모음.

직원들이 제기한 우려

한 Meta 직원은 자신의 행동이 AI 모델 훈련에 쓰이는 상황이 “매우 디스토피아적”으로 느껴진다고 말함. 직원들은 추가 감원을 예상하고 있었음.

Meta는 올해 약 2,000명을 해고함. 4월에는 직원들에게 전체 인력의 10%, 약 8,000명을 감축할 계획이라고 알림.

최근 Meta를 떠난 또 다른 사람은 추적 도구를 “AI를 모두에게 억지로 밀어 넣는 최신 방식”이라고 표현함.

내부 메모의 조정 내용

Reuters가 본 내부 메모는 Meta Superintelligence Labs 부문 부사장 Stephane Kasriel이 작성한 것으로 전해짐.

Kasriel은 MCI 팀이 노트북 배터리 수명에 미치는 영향을 줄이기 위해 “여러 최적화”를 도입했다고 밝힘. 직원들이 이 도구 때문에 재택근무 중 데이터 사용량이 급증하고 인터넷 사용량이 늘었다고 보고한 뒤 나온 변화임.

Kasriel은 메모에서 출시 당시 여러 단계의 위험 검토를 거친 개인정보 보호 조치에 여전히 자신감을 갖고 있지만, 업무용 기기 내 개인 데이터, 배터리 수명, 캡처 시점에 대한 더 많은 통제를 원하는 우려를 들었다고 밝힘.

GN⁺ 3시간전 [-]

Hacker News 의견들

Snow Crash에서 “Fed Land”의 업무를 묘사한 뛰어난 대목이 떠오름
Y.T.의 엄마가 새 메모를 열고 읽기 시작하는데, 예상 읽기 시간은 15.62분임. 나중에 관리자는 각 직원이 이 메모를 읽는 데 쓴 시간을 보고, 10분 미만이면 태도 상담, 10~14분이면 불성실 가능성, 정확히 15.62분이면 “잘난 척하는 놈”이라 태도 상담, 18분 초과면 보안 영상을 확인해 무단 화장실 휴식 같은 걸 의심함
Y.T.의 엄마는 14~15분 사이로 읽기로 정하고, 일정한 간격으로 Page Down을 누르며 가끔 앞 페이지로 돌아가 다시 읽는 척함. 컴퓨터는 이런 행동도 기록하고, 다시 읽기를 좋게 평가하며, 이런 작은 습관들이 10년쯤 지나면 업무 습관 요약에 크게 드러난다는 내용임
- 정말 무섭다. 15.62분 근처의 선택지 중 하나는 “괜찮음”일 줄 알았는데 완전히 틀렸고, 예상했어야 했음
  아래 댓글처럼 감시가 어느 수준으로 이뤄지는지 알 수가 없음. 혹시 이걸 읽고 있는 CEO라면, 안녕
- 더 웃긴 건 Meta의 리브랜딩이 Snow Crash의 메타버스 개념에서 일부 영감을 받았다는 점임. Zuckerberg를 비롯한 많은 기술 임원들이 아이디어를 캐내려고 이 책을 읽으며 바로 이 대목도 봤을 가능성이 높음. 삶이 예술을 따라가는 건가 싶다
- “가끔 앞 페이지로 돌아가 이전 부분을 다시 읽는 척한다”라니, 이 디스토피아에는 시선 추적은 없나 봄
- 전지적 화자가 그녀를 계속 “Y.T.의 엄마”라고 부르는 게 늘 이상하다고 느꼈음
- 매체 속 악당에게 자신을 이입하는 건 어떤 느낌일지 궁금함. Zuck이 메타버스를 보고 “이거 좋은 아이디어네!”라고 생각하거나, Thanos도 그렇게 나쁘진 않았다거나, 반란군 놈들은 당할 만했다거나, Homelander가 선역이라고 보는 식임
실제로 얼마나 가혹한 추적이 이뤄지는지 알기는 늘 어려웠고, IT 전문가들도 이런 얘기를 잘 안 하는 편임
미국에서는 회사가 지급한 기기를 쓰면 그 위의 모든 활동이 완전히 감시·기록되고 어떤 이유로든 직원에게 불리하게 쓰일 수 있다는 전제가 있음. 실제로는 적당한 웹서핑이나 Hacker News 보기, 개인 용무를 업무용 컴퓨터에서 처리하는 걸 크게 걱정하지 않는 사람도 많음
하지만 AI 때문에 상황이 크게 달라짐. 이제 “훈련”이라는 명목으로 로봇이 모든 사소한 행동을 분류하고 세밀하게 들여다볼 수 있어서, 곧 절대적으로 가혹한 수준의 추적에 대비해야 할 것 같음
- 회사마다 정말 스펙트럼이 큼. 어떤 회사는 회사 소유 장비의 일련번호도 모르고 누가 어떤 기기를 쓰는지도 모르는 반면, 어떤 회사는 관리자가 직원 화면을 거의 실시간 피드처럼 볼 수 있음
  그 중간에는 기본 보안만 강제하고 문제가 생겼을 때 조사할 권리만 남겨두는 회사도 많음. 회사 리더들과 이런 얘기를 해보면, 믿기 어렵겠지만 가장 침해적인 추적 방식은 강하게 거부하는 경우도 많음
  다만 어떤 감시든 AI의 부상은 훨씬 표적화된 관찰을 가능하게 만드는 위험한 기회가 됨. 사람이 직접 시간을 들여 볼 필요 없이, AI에게 계속 지켜보며 관심 있는 걸 찾아내라고 시킬 수 있기 때문임
  일상적인 직원이 업무용 컴퓨터로 개인 용무를 볼 때 현실적인 위험 중 하나는, 충분한 감독 없이 회사 기기에 접근할 수 있는 악의적 IT 관리자의 내부자 위협일 가능성이 큼
- 25년 넘게 일하면서 개인 일은 개인 기기에서, 업무는 업무 기기에서만 처리했고 절대 섞지 않았음
  이상하게도 HN에서는 이게 꽤 논란이 됨. 은행 업무나 HN에 글 쓰려고 개인 휴대폰을 회사에 가져오는 게 엄청난 불편인 것처럼, 그렇게 해보라고 하면 이상하게 화난 반응을 많이 받았음. 스마트폰 이전보다 지금은 세계를 분리하기가 훨씬 쉬움
  고용주가 내가 하루 중 어떤 개인 용무를 봐야 하는지 알 이유가 없고, 반대로 회사도 내가 기밀 업무를 개인 기기에서 하는 걸 승인할 리 없으니 서로 이득임
- “절대적으로 가혹한 수준의 추적에 대비해야 한다”는 말은 금융권의 오래된 격언인 최적의 사기 규모는 0이 아니다를 떠올리게 함
  회계, 은행, 주식 거래 등에서 이론상 100% 사기를 막는 시스템을 만들 수는 있지만, 너무 번거로워서 아무도 쓰지 않게 됨. 타코 하나 사려고 망막 스캔 15번, 채혈, 은행 승인 감시인을 요구하면 작동하지 않음
  여기서도 마찬가지임. AI와 대규모 언어 모델로 사람이 얼마나 일하는지 초 단위까지 파악하고 최적화하려 할 수 있음. Amazon은 창고에서 이미 이런 걸 하고 있고, 바닥에서 직원이 죽었는데 다른 사람들이 시신 옆에서 계속 일해야 했다는 사례가 계속 나옴
  Amazon은 그런 시스템에서 일할 사람을 구하려고 지역사회를 하나씩 소진해가야 하고, SEC 공시에는 인구 고갈이 노동력에 대한 실제 위협이라고 적혀 있음
  그래서 사악한 거대 기업에게도 감시의 최적량은 100%가 아님. Amazon은 이미 균형점을 넘어섰고, 최적점 쪽으로 다시 밀려나는 중으로 보임. 그 지점은 우리가 생각했던 것보다 훨씬 뒤쪽일 수 있음
- “곧 대비해야 한다”는 식으로 불가피하게 포장하는 게 현재 AI 서사에서 가장 큰 거짓말 중 하나라고 봄
  향후 10년간 성공할 회사는 직원의 기본적인 존엄을 존중하고 유능하고 책임 있는 전문가로 대하는 회사일 가능성이 높음. 과거에도 대기업 친구들이 노트북 감시 소프트웨어를 만족시키려고 자리 비울 때 마우스 흔들이를 설치했다는 얘기를 들었을 때 똑같이 생각했음
  약물 검사와도 비슷함. 정부나 보안 인가 업무가 아니라면, 약물 검사는 직원 존중이 없는 문화와 업계의 낮은 지위를 보여주는 좋은 신호로 봐왔음
  Meta는 자신들이 어디로 가고 있는지 아주 분명히 보여줬고, 2012년 Cisco에 취직하는 것과 비슷해 보임. 이제 20대가 된 Gen Z에서 AI와 신흥 기술에 필요한 인재를 잘 채용하길 빈다
- 미국에서 회사 지급 기기를 쓰면 모든 활동이 감시·기록될 수 있다고 “기대”하지 않음. 어떤 회사들이 기기에 스파이웨어를 설치한다는 건 알지만, 기대하지도 받아들이지도 않으며, 공개 없이 했다면 매우 화날 것임
  법적으로 가능하다는 건 이해하지만, 그런 곳에서는 절대 일하지 않을 것임
Meta에서 일하는 건 아니지만, 기술 업계에서 앞으로 몇 년을 더 일해야 하나 싶음. 40대이고 아이들은 아직 어림. 이미 아이들 529 계좌를 만들었고, 비싼 집 수리도 진행 중임
그게 끝나고 완충 자금을 만들면, 남은 직장 생활 5~10년은 다른 업계로 옮길 수도 있겠음. 비슷한 계획을 가진 사람이 있는지 궁금함
- 40살에 기술 업계를 그만뒀음. 지금도 기술로 멋진 일을 하지만, 지역 소유 식료품 협동조합에서 일함
  기술 업계를 떠나는 걸 정말 강력히 추천함. 코르티솔 수치가 예전보다 훨씬 낮아졌고, 정규 근무시간 밖에 EMEA와 APAC 회의 때문에 삶을 맞출 필요도 없음. 40시간 넘게 일하는 건 내가 원할 때뿐이고, 가끔은 그렇게 함. 이제는 일이 실제로 즐겁기 때문임
  사람들에게 눈에 보이는 차이를 만들고, 내가 신경 쓰는 일을 할 수 있음. 투자자나 벤처캐피털을 만족시키는 대신, 매년 영향 극대화와 손익분기 달성에 집중함
  보상과 복지는 나빠진 부분이 있지만 크게 신경 쓰지 않음. 괜찮은 건강보험이 있는 배우자가 있어서 그걸 쓰고, 기술 업계에서 일하는 동안 집 대출을 갚고 저축도 많이 해뒀음. 기술 업계 사람들이 생각하는 의미의 부자는 아니지만, 마음먹으면 가진 걸 팔고 라틴아메리카 해변 어딘가에서 아주 좋은 삶을 살며 다시 일하지 않을 수도 있음
  실제 조언은, 그만두기 위해 필요한 금액을 시간을 들여 계산해보라는 것임. 여섯 자리 연봉에 익숙했지만 실제 생활은 다섯 자리 수준을 넘지 않았기 때문에, 내 필요 금액은 생각보다 훨씬 낮았음
- 회사들을 가로질러 노조를 만들어야 한다고 봄. 이런 일을 막을 수 있어야 하고, 누군가를 AI로 대체하려고 해고하지 못하게 요구할 수 있어야 함. 중국이 세운 기준만큼 미국 노동자 권리도 끌어올려야 함
  리더십을 어떤 윤리 강령 아래에 묶을 수도 있어야 함. 살상 로봇을 만들거나 기후 공약을 뒤집는 회사에서는 일하고 싶지 않음
- 50살 이후에는 이 업계에서 일하지 않아도 되도록, 재정 독립을 목표로 돈을 정리하는 데만 집중하고 있음
  위에서 아래까지 직원에 대한 노골적인 경멸이 점점 심해지고 끝이 보이지 않음. 50살이 되면 매년 시니어 인력을 솎아내는 대상이 될지는 운에 맡겨야 함
  이 업계가 어떻게 돌아가는지 모른 척할 핑계는 이제 없음. 가면은 이미 몇 년 전부터 벗겨져 있었음
- 기술 업계에 남되, 지금까지 만들어진 헛소리를 되돌리는 일을 할 수도 있음
  실제로 똑똑하고 사용자를 위해 작동하는 덤폰, 오픈소스 TV, 로컬 AI 모델, 감시하지 않는 브라우저 같은 걸 만들 수 있음
- 매일 그걸 꿈꿈
  소프트웨어 만드는 건 사랑하지만, 이 업계에서 일하는 건 견딜 수 없음
  나쁜 기업 문화와 의심스러운 도덕 원칙이 결합된 불경한 조합임
Meta에서 일하면서 이걸 읽는 사람에게 진지하게 묻고 싶음. 어떻게 아직도 이 회사에서 일할 수 있나?
왜 이렇게 유독한 회사를 그만두고 다른 곳이나 자기 일을 시작하지 않는지 정말 이해가 안 됨. 그냥 Meta가 죽게 놔두면 됨
- 이 댓글들에서 “돈을 많이 받으면” 전 세계적으로 명백히 거대한 순해악에 기여해도 괜찮다는 사람이 많다는 사실이 바로 회사가 여기까지 온 이유임
  좋은 일을 하는 것보다 엄청난 돈을 더 중시하는 사람이 이렇게 많다는 게 놀라움. 현금을 위해 가치를 접어두겠다는 사람 모두가 문제임. 역겹다
- Meta에서 일할 좋은 이유는 많음. 흥미로운 프로젝트를 하고, 이력서와 네트워크를 쌓고, 재미있는 공학 문제를 풀고, 다른 사람들에게 배우고, 물론 보수도 매우 좋음
  가족을 부양하고 은퇴를 준비해야 하는 현실도 있음. 완벽하진 않지만, 회사가 유독한지의 선은 어디에 긋는가? 다른 장점이 있을 때 어디까지 타협할 수 있는가? 이 질문들에 대한 답은 사람마다 다름. 어떤 사람은 환경 문제 때문에 기술 업계에서 일하는 것 자체도 잘못이라고 할 것임
  개인적으로는 Meta에서 기꺼이 일할 것 같음. 많은 사람이 그들의 서비스를 쓰고 좋아함. 사회에 최고의 일은 아닐 수 있지만, Netflix나 Amazon이나 Apple도 마찬가지임
- 사람들은 늘 이 질문에 돈으로 답함. 하지만 이를 Meta와 직원이 각각 한 명의 죄수인 죄수의 딜레마로 보면, 올바른 수는 아마 더 낮은 연봉을 받고 다른 곳에서 일하는 것일 수 있음
  Meta에서 일하면 회사는 당신을 배신하고 있음. 화면을 공개적으로 녹화해 당신의 AI 대체자를 훈련시키기 때문임. 다른 곳에서 일하는 건 당신이 Meta를 배신하는 것과 비슷함
  극도로 단순화하면, 어느 쪽이 나은가? 5년 동안 연 40만 달러를 받고 해고된 뒤, 당신이 Meta의 대체 기술 구축을 도와서 일자리가 거의 사라질 가능성을 감수하는 것인가. 아니면 커리어 내내 연 20만 달러를 받고, 당신이 대체 기술 구축을 돕지 않았기 때문에 고용 기회가 마르지 않는 것인가
- 부양가족이 있으면 이런 문제도 생길 수 있음. “Timmy, 다리를 살릴 수도 있는 방법 x를 시도하는 대신 절단해야 해. 그 비용을 낼 수 있는 일을 내 윤리 기준 때문에 거절했거든” 같은 상황임
  물론 매우 극단적이고 드문 경우이길 바라지만, 돈이 상당히 큰 차이를 만드는 경우는 넓게 존재함. 또한 결정의 영향을 받는 사람이 나 혼자인지 다른 사람도 있는지에 따라 차이가 큼
  이런 자리를 선택할 때는 그런 현실적 함의들도 무게 있게 고려될 수 있음
- 가면 증후군은 매우 흔하고, 고연봉 기술직에 있는 많은 사람이 다른 곳에서 비슷한 자리를 얻을 수 있다고 믿지 못함
  Meta 면접은 일반적으로 그리 어렵지 않다고 여겨지고, 이 점이 가면 증후군을 더 키움. 쉽게 들어왔으니 자신이 과하게 보상받는다는 감각이 생김. 거의 의도적 전략이 아닌가 의심될 정도임
전 세계 모든 사람을 추적하는 일을 하던 직원들이 이제 자기들도 추적당한다니, 이보다 더 아이러니할 수 있을까 :)
- 거기서 일하면서 이런 정책에 반대하는 사람들에게 공감하려고 노력 중이지만, 아이러니가 너무 짙어서 쉽지 않음
- 고통스러울 정도의 아이러니임. 이 사람들은 하루 종일 컴퓨터 앞에 앉아 사용자의 친구, 위치, 자산, 취미 등 가능한 모든 걸 잡아내려는 목적으로 새로운 데이터 조각을 수집하는 방법을 설계하고 코딩해, 더 정밀한 광고를 밀어 넣음
- 지금 새로 하는 일 중에서 이미 하던 것보다 가치 있는 게 무엇인지 궁금함
  이런 회사들은 이미 사용자의 행동을 많이 추적하고 있고, 그중 꽤 많은 비율은 보안 관점에서 말이 됨. 대체 무엇이 아직 추적되지 않았고 가치가 있을 수 있는지 궁금함
  개별 키 입력과 마우스 움직임이, 이미 적절한 가치 단위로 대부분 추적되는 업무 산출물보다 어떻게 더 가치 있을 수 있나 싶음
  어쩌면 실제 인재를 잃는 데 전혀 신경 쓰지 않고 더 많은 사람이 그만두게 하려는 것일 수도 있음
  MAG-7 전체가 연구개발 지출을 급여에서 AI 데이터센터 자본지출로 옮기고 싶어 해서, 실제 가치의 99%를 만들어내는 인재 90%가 떠나는 걸 보고도 감수할 기세임
  그들이 현장에서 실제로 무슨 일이 벌어지는지 모르는 바보라서가 아님. 어떤 짓이든 해도 된다는 오만한 자신감과 시장 지위를 이용해, 결정이 아무리 재앙적이어도 모두가 감당하게 만들 수 있다고 믿는 것임
  모델이 형편없으면 의회에 로비해 오픈 가중치 모델을 불법화하면 되고, 가격을 싫어하면 정부가 제품 비용을 내게 만들면 되고, 중국이나 유럽이 더 잘하면 국가안보를 명분으로 경쟁을 금지하면 된다는 식임
- 우리가 적들에게 쓰는 드론과 똑같음. 다음 미국 내전은 분명 드론으로 치러질 것임
The Onion의 2015년 풍자 기사 “HR Director Reminds Employees That Any Crying Done At Office Must Be Work-Related”가 떠오름
하지만 옵트아웃 자체도 당연히 추적될 것임. 선택하면 성과 평가에 올라갈 수 있음
- 옵트아웃하면 KPI가 고정값만큼 내려감
- 30분짜리 창은 오히려 비밀리에 더 면밀히 추적될 것이라고 봄
- 매일 점심시간쯤 옵트아웃한다고 뭐라고 할 정도라면, 어차피 다른 꼬투리를 찾아서 뭐라고 했을 것임
O’Brien이 텔레스크린을 끄는 장면이 떠오름
“당신은…”
“그래… 우리에게는 그 특권이 허용되어 있지”
- “미래의 모습을 보고 싶다면, 인간의 얼굴을 영원히 짓밟는 장화를 상상하라”
이 정책을 만든 사람들은 거의 확실히 적용 제외일 것임
Winston은 벽감에 앉아 뒤로 물러나 있으면 시야에 관한 한 텔레스크린의 범위 밖에 머물 수 있었음. 물론 소리는 들릴 수 있었지만, 현재 위치에만 있으면 보이지는 않았음. 그가 지금 하려는 일을 떠올리게 한 것도 방의 특이한 구조 때문이었음

답변달기