Meta, AI 학습용으로 직원 마우스 움직임과 키 입력 수집 시작 예정
(reuters.com)- Meta가 미국 직원 컴퓨터에 마우스 움직임, 클릭, 키 입력을 추적하는 소프트웨어를 설치해 AI 모델 학습 데이터로 활용하며, 업무용 앱과 웹사이트에서 화면 스냅샷도 주기적으로 캡처
- Model Capability Initiative(MCI) 라 불리는 이 도구는 드롭다운 메뉴 선택, 키보드 단축키 사용 등 AI가 아직 인간 행동을 잘 복제하지 못하는 영역의 학습 데이터 확보가 목적
- CTO Andrew Bosworth는 Agent Transformation Accelerator(ATA) 로 리브랜딩된 사내 AI 전환 프로그램을 통해 "에이전트가 주로 업무를 수행하고 인간은 지시·검토·개선하는" 비전 제시
- Meta는 5월 20일부터 전 세계 인력 10% 감축을 시작하며, 코딩 등 업무에 AI 에이전트 사용을 직원들에게 적극 독려 중
- 법학자들은 이 조치가 화이트칼라 직원에게 기존 배달·긱 노동자 수준의 실시간 감시를 적용하는 것이며, 유럽 GDPR 위반 가능성도 높다고 지적
MCI 도구의 작동 방식
- MCI는 직원의 업무용 앱과 웹사이트에서 실행되며 마우스 움직임, 클릭, 키 입력을 캡처
- 직원 화면 콘텐츠의 스냅샷을 주기적으로 촬영하는 기능도 포함
- AI 연구 과학자가 Meta SuperIntelligence Labs 팀 채널에 게시한 내부 메모를 통해 공개
- 목적은 드롭다운 메뉴 선택이나 키보드 단축키 사용 등 AI 모델이 인간의 컴퓨터 상호작용을 복제하기 어려운 영역을 개선하는 것
- "모든 Meta 직원이 일상 업무를 수행하는 것만으로 모델 개선에 기여할 수 있다"는 설명
AI 업무 전환 전략
- CTO Andrew Bosworth가 별도 메모에서 내부 데이터 수집을 강화할 것이라 밝히며, 이 프로그램을 Agent Transformation Accelerator(ATA) 로 리브랜딩
- "에이전트가 주로 업무를 수행하고 인간의 역할은 지시, 검토, 개선 지원"이라는 비전 제시
- 에이전트가 인간이 개입할 필요를 느낀 지점을 자동으로 파악해 다음번에 더 나아지도록 하는 것이 목표
- Bosworth는 에이전트 학습 방법을 명시적으로 설명하지는 않았으나, "업무 과정의 모든 유형의 상호작용에 대한 데이터와 평가를 축적"하는 데 엄격할 것이라 언급
- Meta 대변인 Andy Stone은 MCI 데이터가 모델 학습 입력값 중 하나임을 인정
AI 기반 인력 구조 개편
- MCI 데이터는 성과 평가에 사용되지 않으며 모델 학습 목적으로만 활용, "민감한 콘텐츠"를 보호하는 안전장치가 마련되어 있으나 구체적으로 어떤 데이터가 수집에서 제외되는지는 미설명
- AI 도구가 앱 제작, 대규모 데이터 정리 등 복잡한 업무를 최소한의 인간 감독으로 처리하는 능력이 실리콘밸리를 사로잡고 있으며, 전통 소프트웨어 기업 주가 하락과 대규모 인력 감축 계획으로 이어지는 중
- Meta는 5월 20일부터 전 세계 인력 10% 감축을 시작하며 올해 추가 대규모 감축도 검토 중
- Amazon은 최근 수개월간 화이트칼라 직원 약 30,000명(약 10%) 을 감축했으며, Block은 2월에 직원 절반 가까이를 해고
- Meta는 직원들에게 단기적으로 속도가 느려지더라도 코딩 등 업무에 AI 에이전트 사용을 독려 중
- 특정 직무 간 구분을 없애고 "AI builder" 라는 범용 직함으로 통합하는 작업도 진행 중
- 지난달 Applied AI(AAI) 엔지니어링 팀을 신설해 Meta AI 모델의 코딩 역량 강화 및 향후 제품·인프라 구축 업무 대부분을 수행할 AI 에이전트 개발에 집중
- 이달 초부터 "우수한" 소프트웨어 엔지니어들을 AAI로 전환 배치 시작
화이트칼라 감시 우려
- Yale 대학교 법학 교수 Ifeoma Ajunwa에 따르면, 컴퓨터 로깅 및 스크린샷 기술은 역사적으로 직원 비위나 비업무 활동 탐지 목적으로 사용되어 왔음
- 키 입력 로깅은 데이터 수집을 한 단계 더 나아가게 하며, 화이트칼라 직원에게 기존에 배달 기사나 긱 노동자만 경험했던 수준의 실시간 감시를 적용하는 것
- 미국 연방법상 근로자 감시에 대한 제한이 없으며, 주법도 대부분 고용주가 모니터링 사실을 포괄적으로 고지하는 수준만 요구
- York 대학교 법학 교수 Valerio De Stefano는 유럽법에서는 이러한 모니터링이 금지될 가능성이 높다고 평가
- 이탈리아에서는 전자적 모니터링으로 직원 생산성을 추적하는 것이 명시적으로 불법
- 독일 법원은 심각한 범죄 혐의 등 예외적 상황에서만 키 입력 로깅을 허용한다는 판례 유지
- 이러한 관행은 유럽의 GDPR 위반에 해당할 가능성이 높음
- 고용주 감시에 대한 인식은 직장 내 권력 균형을 고용주 쪽으로 기울이는 효과
Hacker News 의견들
- 이건 그냥 유독한 쓰레기처럼 보임. 널리 해킹당하길 바라고, 누군가 Meta의 탐욕스러운 수집 파이프에 터무니없는 가짜 데이터를 잔뜩 먹이는 대응책을 만들면 좋겠다는 생각임
- 이건 직원들에게 엄청난 위축 효과가 될 거라고 봄. 이제는 업무 외 얘기나 잡담조차 최소한의 프라이버시 기대 없이 해야 하는 상황이 됨. 예전에도 로그 확인은 가능했겠지만, 사건 후 제한적으로 들여다보는 것과 대규모 상시 감시는 완전히 다른 문제라고 느껴짐
- 이런 일이 더 어울리는 집단도 없다는 냉소가 듦. 아이러니가 너무 강해서 감지기가 터질 지경이라는 느낌임
- 나는 원래 회사 장비에서는 내가 하는 모든 일이 IT에 의해 모니터링될 수 있다고 가정해왔음. 그래서 회사가 싫어할 만한 일은 조금이라도 회사 하드웨어로 하지 않았고, 대신 내 스마트폰과 개인 컴퓨터를 써왔음. 예전에 스타트업에서 엔지니어와 경영진 사이 갈등이 있었을 때도, 엔지니어들은 각자 개인 Signal 계정으로 비공개 그룹을 만들어 문제 없이 얘기했음
- 솔직히 Meta가 직원들을 위축시키는지 신경 쓸 것 같지는 않음. 이미 더 많은 가치 추출 단계에 들어갔고, 더 이상 최첨단 인재를 끌어오는 회사도 아니라는 판단임
- 업무용 기계는 회사 소유물이니 프라이버시 기대가 없어야 한다는 쪽이 이해됨. 나는 인도의 한 기술 회사에서 일하는데, 핵심 인력 의존 리스크를 줄이려고 동료들의 특성을 바탕으로 skills.md를 만들도록 권장받고 있음. 실제로 조직 재편으로 해고된 엔지니어 몇 명의 코드는 그들의 AI 대응물이 유지보수 중이기도 함. Meta도 그 방향으로 가는 것 아닌가 싶음
- 나는 사회생활을 시작할 때부터 회사 자산과 장비는 회사가 감시하거나 심지어 키로깅할 권리가 있다고 생각해왔음. 실제로는 그렇게까지 하지 않는 경우가 많아서 오히려 놀랐지만, 권리 자체는 있다고 봄. 왜 사람들이 업무 시간에 업무 외 활동을 할 권리가 있다고 기대하는지 잘 모르겠음. 내가 일한 회사들은 전부 계약서와 정책에 허용 범위가 명확했고, 회사 욕을 하고 싶다면 Slack이나 Teams가 아니라 회사 밖이나 실제 워터쿨러 옆에서 하거나 개인 번호로 하자는 입장임
- 차세대 AI는 아마 Hacker News 스크롤링에 아주 능숙해질 것 같다는 농담이 나옴
- 나는 이게 어떻게 합법인지 정말 이해가 안 됨. 미국에서 Facebook에 사실상 컴플라이언스 요구가 없는 건가 싶을 정도임. SRE 화면의 시계열 스크린샷에는 비밀번호, 암호화 키, PII 같은 민감한 정보가 필연적으로 들어갈 텐데, 이런 데이터 진공청소기가 그걸 저장하는 게 말이 되나 싶음. 직원이 임의로 끌 수 있는지도 궁금하고, 누군가 실수로 회사 전체 ssh root 개인 키를 화면에 띄운 채 꺼두지 못하면 어떻게 되는지도 걱정됨. 합법성 이전에, 이런 학습 데이터 접근 권한을 가진 사람은 회사 시스템 전반에 지나치게 넓은 접근권을 갖게 되는 셈이라 결국 해킹 위험만 키운다고 봄
- 미국법상 특히 회사 기기에서는 대부분의 기업에 합법인 경우가 많고, 안타깝게도 드문 일도 아님. 보통 이런 데이터의 컴플라이언스는 다른 민감 데이터와 마찬가지로 특정 그룹만 스크린캡에 접근하게 제한하는 식으로 다뤄짐. 나도 지지하는 건 아니지만, 많은 회사가 보안 우려를 무시하고 이걸 하는 게 아니라 오히려 보안 문제 해결 명분으로 함. 다만 Meta는 결이 좀 다르고, 인력 일부를 대체할 모델을 만들려는 느낌이 강함
- 이 데이터는 결국 유출 사고로 새어 나올 거라고 봄. 법정에서 불리하게 쓰일 것이고, 학습에도 쓰일 것이며, 누가 뭐라 해도 AI가 일을 대신할 수 있게 되면 결국 해고에도 쓰일 거라는 예상임. 그리고 그 모든 일이 벌어져도 Meta는 책임을 피해갈 가능성이 높아 보임. 그래서 더더욱 이런 걸 막는 법 제정이 시급하다고 느껴짐
- 웹과 조금이라도 관련된 심리 실험이 A/B 테스트가 정상화된 뒤로 사실상 자동 합법처럼 취급되기 시작했다는 문제의식이 있음. 원래 이런 건 포괄적 동의서로 덮을 일이 아니라, 자유의사에 따른 참여와 독립적인 심의 같은 절차가 필요한 영역이라고 봄. 이미 고양이는 자루 밖으로 나온 상황이지만, 그렇다고 문제가 아닌 건 아니라는 말임
- 이건 정말 미쳤다고 느낌. 예전에는 엔지니어가 정말 전문직처럼 여겨졌는데, 지금은 회사가 신뢰 대신 스파이웨어를 요구하는 수준까지 온 것 같음. 변호사가 판사와 뒷거래할까 봐 로펌 노트북에 감시 프로그램을 깔자고 하거나, 의사의 모든 행동을 24시간 감시하자는 얘기와 비슷하게 들림. 차라리 정치인에게나 공개 감사 가능한 24시간 감시를 적용하자는 풍자까지 하게 됨
- 정치인들은 분명 보안 같은 이유를 들어 제일 먼저 자기들만 예외를 만들 거라고 봄. 원래는 권력이 클수록 책임성과 감시가 따라야 맞지만, 실제 세상은 정반대로 굴러간다는 냉소임
- 네가 든 사례 중에서 직접 세금으로 비용을 대고 원칙적으로 나를 위해 일하는 쪽은 정치인뿐이라는 지적이 가능함. 변호사와 의사는 내 직원도 아니고 내 자산 위에서 일하는 사람도 아님. 오히려 이 사안이 보여주는 건 미국의 고용주-피고용인 관계에서 가면이 거의 완전히 벗겨졌다는 점이고, 보험까지 고용에 묶어둔 상태에서 여기까지 왔기 때문에 저항 여력이 별로 남지 않았다는 해석임
- 변호사 사무실 노트북에 그런 감시를 까는 발상이 오히려 좋은 생각처럼 들린다는 반응도 있음
- 나는 실제로 몇몇 변호사에게 뒤통수를 맞아본 적이 있음. 이메일보다 더 걱정해야 할 건 전화 통화라는 현실적인 코멘트임
- 수집한 데이터는 성과 평가나 다른 목적에는 안 쓰고 모델 학습에만 쓰겠다는 말을 Meta 직원들이 믿을 거라고 생각하냐는 반응임
- 이 직원들은 이미 지구 최대급 감시 네트워크를 자발적으로 코딩해온 사람들이니, 많은 걸 믿을 준비가 되어 있을지도 모른다는 비꼼임
- 4년 연속 해고가 이어졌고 또 20퍼센트 감원이 다가온다는 분위기라면, Meta 직원들이 꽤 소수이긴 해도 매우 의심스러워할 거라는 추측임
- 결국 중요한 건 보상이고, 높은 연봉이 순응을 이끌 것 같다는 냉정한 시각임
- 그 말의 신뢰도는 과거의 "It's free and always will be" 와 비슷한 수준이라는 비판임
- Meta 면접 절차는 애초에 시작도 하지 않기로 한 게 정말 다행이라는 생각임. 그때도 회사가 꽤 우스꽝스럽게 보였는데, 지금은 차원이 다르다는 느낌임
- Meta의 정반대 회사는 어떤 모습일지 상상하게 됨. 작고 프라이버시 중심이며, 회사에서 HN이 차단된 곳쯤일까 싶고, 내가 뭔가 놓치고 있는지도 궁금함
- 나는 이 시스템이 결국 Meta 직원들이 AI로 일하는 장면을 대거 수집하게 될 거라고 상상함. 그걸로 학습한 모델을 다시 배포하면, 다음에는 AI를 잘 활용하는 AI를 쓰는 직원들을 또 수집하게 될 테고, 이걸 몇 번 반복하면 결국 절망 속에 키보드를 마구 두드리며 왜 모델이 아무것도 못 하냐고 외치는 사람들의 입력까지 수집하게 될 거라는 블랙코미디가 보임
- 이건 AI 학습이 핑계일 뿐이고, 실제로는 대규모 해고로 보이지 않게 사람을 내보내고 퇴직금도 줄이려는 명분일 수 있다는 추측임
- 이 데이터는 누가 AI를 충분히 안 쓰는지도 보여줄 테니, 결국 그런 직원들은 PIP를 받거나 해고될 수 있다는 우려임
- 웃긴 실패 모드 같지만 기술적으로는 오히려 좋은 일일 수도 있다는 관점도 있음. 이미 모델이 인간이 AI에 시키던 기술을 어느 정도 갖고 있으니, 하위 에이전트를 쓰는 방식이든 AI가 대신한 일을 그냥 모델 내부로 접는 방식이든, 인간이 작업 분포를 AI 분포에 가깝게 바꿔준 덕분에 학습이 더 쉬워진다는 설명임
- 속보라며, Meta가 궁극의 "고양이가 키보드 위에 앉음" 시뮬레이터를 만들었다는 농담임
- 관련 이야기로 Marshall Brain의 Manna를 떠올렸고, https://marshallbrain.com/manna1 이 작품이 지금 상황과 꽤 맞닿아 있다고 봄