Amazon 직원들, AI 사용 압박에 불필요한 작업을 만들어 AI 토큰 소비량을 부풀리는 중

 (fastcompany.com)
5P by GN⁺ | ★ favorite | 댓글 4개
  • Amazon이 직원들의 AI 토큰 소비량을 추적하면서, 일부 직원들이 내부 AI 도구 MeshClaw를 활용해 불필요한 AI 에이전트를 생성하는 방식으로 사용량을 인위적으로 늘리고 있음
  • 직원들은 AI 토큰 소비량 추적이 품질보다 사용량을 앞세우는 분위기를 만들었다고 보며, 이에 따라 역인센티브 구조 발생
  • Amazon 측은 회사 차원의 AI 사용 지표나 내부 리더보드는 없다고 부인했으나, 직원들은 주간 개발자 80% AI 사용 목표와 토큰 소비 리더보드가 존재한다고 주장
  • MeshClaw는 OpenClaw에서 영감을 받은 도구로, 사용자 로컬 하드웨어에서 독립적으로 실행되며 높은 자율성을 가짐
  • AI 도입을 양적 지표로 강제할 경우 실질적 생산성 향상 없이 자원만 낭비되는 구조적 문제가 드러난 사례

AI 사용 압박과 MeshClaw 사용

  • Amazon 직원들은 업무 흐름에 더 많은 AI를 포함하라는 압박을 받고 있지만, 구체적으로 무엇에 사용해야 하는지는 명확하지 않아 AI 리소스가 불필요한 작업에 쓰일 여지가 커짐
  • Financial Times 보도에 따르면 일부 Amazon 직원들은 내부 AI 도구 MeshClaw를 생산성 향상보다 AI 활동량을 늘리는 불필요한 AI 에이전트 생성에 쓰고 있음
  • 한 직원은 “이 도구들을 사용하라는 압박이 너무 많다”며, 일부가 토큰 사용량을 극대화하려고 MeshClaw를 쓴다고 말함

사용 지표를 둘러싼 엇갈림

  • 직원들은 Amazon이 AI 토큰 소비량을 추적하면서 일부 동료가 기술 사용의 품질보다 양을 우선하게 됐다고 봄
  • 익명의 Amazon 직원 여러 명은 AI 사용 기대치가 높아지면서 업무 환경이 나빠지고 있다고 봄
  • Amazon은 AI 사용 통계가 성과 평가에 반영되지 않는다고 직원들에게 알린 것으로 보이지만, 모든 직원이 이를 믿지는 않음
  • 다른 직원은 사용량 추적이 왜곡된 역인센티브(perverse incentives) 를 만들고, 일부 직원이 매우 경쟁적으로 행동하게 한다고 봄
  • 인터뷰에 응한 직원들은 회사가 매주 개발자의 80%가 AI를 사용하도록 하는 목표를 갖고 있으며, 직원들의 토큰 소비량이 내부 리더보드에서 추적된다고 말함
  • Amazon 대변인은 AI 사용에 대한 전사적 지표가 없고, 직원들이 서로 비교되는 내부 리더보드도 없다고 밝힘
    • 대신 직원들이 개인 대시보드에서 자신의 AI 사용량을 확인할 수 있는 구조라고 설명

OpenClaw와 로컬 실행의 위험

  • 일부 Amazon 직원들이 AI 사용량을 부풀리는 데 쓰는 MeshClaw는 또 다른 AI 도구인 OpenClaw에서 영감을 받은 도구임
  • OpenClaw와 MeshClaw는 다른 AI 모델들과 달리 사용자의 자체 하드웨어에서 로컬 실행되며, 이 때문에 독립성이 높음
  • 올해 초 Meta Superintelligence Labs의 정렬 담당 디렉터가 OpenClaw가 이메일 받은편지함 전체를 거의 삭제할 뻔한 일로 화제가 됐고, AI에 과도한 접근 권한을 줄 때 생기는 위험을 드러냄

함께 보면 좋은 글 β

happing94   [-]

예전에는 개발자들의 개발실력 지표를 코드 몇줄 썼냐 그걸로 지표 설정했었으니까 ㅋㅋㅋ
쓸대없이 한번에 수십만줄 쓰고 고작 기능 한두개인 쓰레기 코드들이 난무했었지

답변달기
aucun   [-]

비슷하게 근무 시간만으로 성과 측정을 한는것도 생각나네요 ㅋㅋㅋ
결과물이 없어도 야근만 많이하면 높은 평가를 받는 상황 ㅎㅎ

답변달기
GN⁺   [-]
Hacker News 의견들

  • Amazon만 그런 게 아니라 대형 기술기업 전반과 일부 작은 회사들까지 동시에 미쳐가는 느낌임
    CEO가 어느 날 “출장비 지출을 장려해야 하니 가능한 한 출장을 많이 예약하고 돈을 최대한 써라. 위성 사무실 갈 때 일등석 타고, Uber 대신 리무진 타고, 고급 식당에서 먹어라. 충분히 출장비를 안 쓰면 인사평가에서 낮은 등급을 받는다”라고 말하는 상황과 비슷함
    지금은 완전히 비정상적인 시대임

    • 그래서 새 CLI 도구 Burn, Baby, Burn을 만들게 됐음: https://github.com/dtnewman/burn-baby-burn/tree/main
      Amazon 부사장이라면 인수 제안도 검토하겠고, 추가 기능이 있는 엔터프라이즈 버전도 작업 중임
      Show HN: https://news.ycombinator.com/item?id=48151287
    • 업무에서 AI를 더 써보라는 지시를 받은 사람이 토큰만 태우는 에이전트를 만들어, 다음으로 많이 쓴 직원보다 10배 정도 더 썼다고 함
      혼날 줄 알았는데 오히려 표창을 받고, 다른 직원들에게 성공 방식을 공유하는 짧은 발표까지 요청받았음
    • 우리 회사에서는 AI 지출이 인사평가에 포함되고 “특이점”이 왔다고 들었음
      이제 인프라 지출의 20%가 토큰이고, 개발자 1인당 주간 풀 리퀘스트 수는 4.2개에서 5.1개로 늘었음
      그중 상당수는 에이전트가 설정 파일 한두 줄 바꾸는 수준이라, 전부 마법적 사고처럼 보임
    • 아버지가 90년대 초에 자체 여행사를 둔 회사에서 일했는데, 여행사가 더 돈을 벌 수 있어서 더 비싼 항공편으로 예약되는 일이 많았음
      다른 항공편에서는 일등석이 더 싸게 가능했는데도 회사 정책상 일등석을 탈 수 없었음
      우리는 늘 비정상적인 시대에 살아왔음
    • 일부 회사는 AI가 모든 직원을 10,000배 생산적으로 만들고 수십억 달러를 절약해준다는 마케팅에 속았을 수 있음
      그런 일이 일어나지 않자 직원들이 마법 같은 AI를 충분히 자주 쓰지 않아서라고 가정하는 것 같음
      자체 AI 제품을 만드는 회사들은 직원들이 AI를 최대한 많이 쓰게 해, 결국 직원 대부분 또는 전부를 대체할 학습 데이터를 얻고 싶어 할 수도 있음
      자기 AI 대체재를 훈련시키길 거부하는 직원을 벌주는 것이, 지금은 비용이 들더라도 나중의 절감이 훨씬 크다고 보면 그들에겐 말이 될 수 있음

  • 6개월쯤 전에 AWS 직원에게 우리 사용 사례에 맞는 AI 도구 발표를 들었음
    발표 중 갑자기 화면 공유에서 “이번 달에 내가 토큰을 얼마나 썼는지 보라. Opus를 엄청 돌린다”고 했고, 숫자는 모욕적으로 클 정도였음
    그때 “이상한 자랑이다. 이건 너무 비싸서 많이 쓴다는 사실 자체가 위험 신호 아닌가”라고 생각했음
    그는 AWS 인프라를 관리하고 조정하는 Claude Code 사용 사례를 여러 개 보여줬는데, 인터넷보다 나이 많은 회색수염 시스템 관리자인 내 눈에는 “AI로 단일 명령어 하나면 될 일을 했네”로 보였음
    그래서 이 이야기가 말이 됨. 6개월 전부터 마구 쓰도록 장려되고 있었던 셈임

    • Cursor 제안 중 상당수는 린터가 자동 수정해야 할 것들임
      그런데 tab을 누르면 그 줄을 AI가 편집한 줄로 집계함
      나머지 상당수도 다중 커서, vim 이동, 매크로만 배웠으면 이미 비슷한 속도로 할 수 있었을 일임
      실제로는 그런 걸 안 써도 화면에 코드를 올리는 속도가 병목이 될 만큼 느린 적이 없어서 배우지 않았을 뿐임
    • 이런 사례들과, 생성형 AI 에이전트 보조 개발이 특히 스타트업에서는 이제 유일한 업무 방식이라는 얘기를 어떻게 조화시켜야 할지 아직 모르겠음
      아마 이분법은 아니고 여러 요인에 따라 달라지겠지만, 서로 너무 다른 보고들이 동시에 보이는 게 이상함
    • 많은 대형 투자사가 여러 기술기업뿐 아니라 OpenAI와 Anthropic에도 깊게 묶여 있을 가능성이 큼
      그러면 이런 지시가 어디서 나오고, 왜 조심스럽거나 균형 잡혀 있지 않은지 계산이 됨
    • 시간이 지나 추상화 계층이 쌓이면 뒤 세대는 그 아래 계층을 이해하지 못하게 됨
      이는 시스템 개발의 큰 약점이고, 적대자에게는 거대한 공격 표면이 될 수 있음
    • “AI로 단일 명령어 하나면 될 일을 했다”는 건 오히려 좋은 일임
      AI 가치의 상당 부분이 바로 거기에 있음
      이제 그 명령어를 몰라도 되고, 기능적 계약만 알면 필요한 업무를 수행할 수 있음
      이건 엄청난 변화임

  • “토큰을 써야 해서 쓸모없는 데 태웠다”는 이야기가 많이 올라오는데, 기후 비상 상황에서 믿기 힘든 행동임
    더 밀어붙이면 3도 온난화도 찍을 수 있겠음
    아무도 먹고 싶어 하지 않는 고래고기 할당량을 맞추려고 소련이 고래를 거의 멸종시킬 뻔했다는 이야기가 떠오름

    • 경제가 더 하향식이 될수록 점점 소련식이 되어가는 게 보임
      사실상 중앙계획이 생겼고 그 체제의 병리도 그대로 있는데, 소련과 다른 점은 우연히 부자가 됐거나 적절한 사람에게 뇌물을 준 몇몇이 우리 GOSPLAN을 운영한다는 것뿐임
    • 새 데이터센터를 짓겠다고 숲을 싹 베어내는 이유가 이건가 싶음
      “진짜” 생산성 향상도 아니고 그냥 토큰을 쓰기 위해서라니
    • 걱정할 것 없음. 우리는 종이 빨대를 계속 쓰고 있으니까, 정말 중요한 건 그거잖음
      토큰을 안 태우면 성과 지표를 못 맞추고, 러다이트라는 딱지가 붙어 AI에 직업을 빼앗기기도 전에 쫓겨날 수 있음
      이런 흐름과 전쟁광들이 지구를 망가뜨리는 데 동의함
    • 소련이 전 세계 고래 포획량의 15% 정도밖에 차지하지 않았고, 1위는 일본이었음
      “아무도 먹고 싶어 하지 않았다”는 말도 근거가 부족함
    • 그렇지만 뭘 할 수 있겠나 싶음. 나도 회사에서 벌받고 싶지는 않음
      다행히 앱 관리 쪽에서 일하고, 마지막 사용일만 볼 수 있다는 걸 알아서 하루에 쿼리 하나만 넣으면 괜찮음
      하지만 이 AI 과열에는 정말 지쳤음

  • FAANG 한 곳에서 일하지만 Amazon은 아니고, 내부와 외부에서 이런 얘기를 많이 들었음
    다만 중요한 사람들, 즉 리더십이 공식적으로 말한 적은 한 번도 없었음
    항상 소문이나 내부 누군가가 만든 대시보드·지표에서 시작해 커짐
    리더들이 “우리가 보는 건 그게 아니며, 비싼 토큰을 낭비하면 안 된다”고 말하는 것도 들었음
    물론 과거에 코드 줄 수나 커밋 수 같은 어리석은 지표를 쓰면서도 완전히 인정한 적은 있었지만, 토큰이 많을수록 좋다처럼 단순하다고는 믿지 않음

    • 나도 FAANG에 있고, 주간 관리자 회의에서 리더십이 토큰 사용량 증가를 장려함
      우리가 반박하면 리더십도 토큰 지출이 좋은 지표가 아니고 사람들이 악용할 가능성이 크다는 걸 인정하지만, 곧바로 다시 팀의 토큰 지출을 늘리라고 함
      리더십이 보는 토큰 추적 대시보드가 있고, 회의에서 직접 보여주기 때문에 알고 있음
      아직 전원에게 순위표처럼 공개하지는 않았으니 그나마 다행임
      토큰 지출이 인사평가에 들어갈 거라는 소문이 많고, 리더십은 부인하지만 곧이어 토큰 지출을 늘리는 게 얼마나 중요한지 회의를 더 열고 대시보드에서 보이는 부족함을 논의함
    • 엔지니어링 관리자들의 큰 동료 그룹에 있는데, AI 토큰 과다 사용이 점점 커지는 문제임
      토큰 사용 순위표를 만들거나 AI 도구 사용을 거부하는 엔지니어를 해고할 수 있다고 암시하는 회사에서는 문제가 폭발함
      그러면 살아남기 위해 최대한 많은 토큰을 쓰는 경쟁이 시작됨
      특히 소셜 미디어를 많이 읽는 개발자들 사이에서 심함
      Twitter, Threads, Mastodon, LinkedIn 등에는 AI-native가 되어 AI를 충분히 쓰지 않는 사람을 해고한다는 바이럴 이야기가 반복 재활용되고, 불안한 개발자들은 불가피한 정리에서 피하려면 동료보다 더 빨리 토큰을 태워야 한다고 생각함
    • 최근 FAANG을 떠났는데, 떠나기 직전에 우리 조직 디렉터가 조직의 토큰 사용량이 낮다는 이유로 보고 라인의 VP에게 질책을 받았음
      그 뒤 조직의 개인 기여자들은 모든 일에 AI를 쓰라는 말을 들었고, 그러지 않으면 커리어에 불이익이 있을 수 있다고 했음
    • 엔터프라이즈 컨설팅 쪽에서도 점점 우스워지고 있음
      일상 업무에서 AI 사용을 동기부여한다며 강제 교육, 워크숍, 해커톤이 이어짐
      셸 스크립트로 쉽게 할 수 있는 일도 “이걸 어떻게 에이전트로 만들 수 있을까”라고 묻는 식임
    • 우리 회사에서는 실제로 리더십에서 내려온 일임
      Copilot에 돈을 많이 썼으니 사람들이 쓰는 걸 보고 싶어 함

  • 목표 자체가 사람들이 지표를 게임하게 만드는 것일 수도 있음
    AI를 더 쓰라고 밀어붙이면 시도하고, 실험하고, 시간을 “낭비”하면서 배움
    그게 최종 목표임
    지금은 쓸모없는 일에 토큰을 쓰며 어디에 도움이 되는지 찾는 중이고, 어디에 도움이 안 되는지도 그렇게 배워야 함
    우리 회사도 같은 일을 하고 있음

    • meshclaw를 설치해서 토큰을 잔뜩 쓰라고 시키면 얘기가 달라짐
    • 정확히 그게 요점임
      낭비적일 수는 있지만, AI가 실제로 비즈니스에 어디에 쓸모 있는지 탐색하는 가장 빠른 방법임
      직원 80%가 토큰만 낭비해도, 나머지 20% 는 방법을 찾아내고 있음
    • 미안하지만 그건 미친 짓임
      돈을 태울 만큼 많다면 더 나쁜 소비 방법도 떠올릴 수는 있지만, 진지하게 보면 바보 같은 일임
      어떤 도구에 기업들이 수백만 달러와 사람 시간을 써서 “이 도구가 뭘 유용하게 할 수 있을지” 찾아본 적이 있나
      문제를 찾는 해결책 그 자체임
      초기에 이 도구가 어떤 문제를 푸는지 분명하지 않다면 버리고 넘어가야 함
      그 남는 돈은 직원과 주주에게 주는 편이 낫다

  • AI에는 이제 보편 기본 일자리 프로그램이 생겼는데, 인간에게는 아직 없다는 게 유감임
    회사들이 AI에게 구덩이를 파게 돈을 내고, 다른 AI가 그 구덩이를 메우게 하고 있음
    [1] https://locusmag.com/feature/cory-doctorow-full-employment/

    • 이미 그런 적이 있음
      소련은 오래전에 100% 고용을 달성했고[0], 그에 따른 빈곤도 함께 있었음
      이건 세금으로 운영되는 게 아니니 그와 같지는 않음
      민간 기업들이 자기 돈으로 실험하고 있고, 나중에 비용 상승을 불러 고객이 다른 곳으로 갈 위험도 감수하는 것임
      생산성과 무관하게 강제 세금으로 사람들에게 돈을 주는 것보다는 훨씬 나음
      [0] https://nintil.com/the-soviet-union-achieving-full-employmen...

  • Amazon 내부에서는 Kiro를 쓰면 토큰 사용량이 게임화되어 있음
    팀에 AWS처럼 비용이 청구되거나 예전 시스템처럼 용량을 설명해야 하는 방식이 아니기 때문임
    내부 순위를 누가 보기 전부터 사람들이 이 지표를 게임했다는 얘기를 믿을 만하게 들었고, 열성 사용자들이 각종 내부 프로젝트를 만들고 공유하는 것도 많음
    내부 발표에서 N00% 생산성 향상 같은 얘기를 들은 관리자들이 압박을 주는 건 확실하지만, 내가 있는 곳에서는 실제 업무 대신 가짜 작업을 만들면 꽤 빨리 알아낼 것임
    압박은 공격적인 마감과 연간 OP1 프로세스에서 더 민첩한 방식으로 바뀐 데서 옴

  • AWS와 다른 비 AWS FAANG 직원들에게서도 비슷한 이야기를 들었음
    모든 토큰 순위표에는 “이것은 인사평가에 반영되지 않는다”는 면책 문구가 붙어 있지만, 그 뒤에 암묵적인 눈짓과 윙크가 따라붙는 느낌임
    내가 들은 한 조직에는 GasTown을 24시간 돌리며 토큰을 먹어치우는 사람이 있음
    기여는 별로 없지만, 편안하게 1위를 차지하고 있음

    • 중소 규모 조직 여러 곳에서도 토큰 사용량과 AI 도입이 인사평가의 핵심이 됐다는 얘기를 여러 사람에게 들었음
    • 우리 400명 규모 회사의 내 매니저가 그런 사람임
      GasTown을 돌리고 에이전트가 코드베이스 여기저기를 건드리게 해서 하루에 커밋이 50개쯤 나옴
      호환 버전, 포매팅 같은 것들임
      다만 문제는 기술이 아니라 그 사람임
      그는 LLM 전에도 이미 그랬음
      저장소를 더 작은 저장소로 “리팩터링”해서 갑자기 코드 전부에 자기 이름이 붙게 만들곤 했고, 대충 훑어보면 회사 코드베이스의 큰 덩어리를 그가 만든 것처럼 보였음
      내가 하려는 일을 거절해 놓고 나중에 자신이 직접 하기도 했음
      내 풀 리퀘스트에는 끝없이 트집을 잡거나 아예 그 일을 하면 안 된다고 말한 뒤, 돌아서서 직접 구현함
      내 코드를 복사해 붙여넣지는 않지만, 내 PR이 열린 뒤 자신이 거절했던 같은 아이디어를 다시 구현함
      매우 똑똑하지만 매우 부정직하고, 부정직함을 잘 숨김
      물어보면 “이 방식이 더 정리돼 보일 것 같았다” 같은 식으로 답함
      바깥에서 보면 한 방식이 다른 방식보다 낫다고 주장할 여지가 있어 부정직함이 명확하지 않지만, 나는 그가 하는 일을 100% 보므로 패턴이 완전히 분명함
      추가로, 한 번은 특정 주에 휴가를 쓰겠다고 했더니 명시적으로 거절하진 않았지만 The Thing을 납품해야 하는 압박이 크다며 휴가를 미룰 수 있냐고 했음
      내가 “아니, 미루지 않겠다”고 하자 승인했는데, 막상 그 주가 되자 본인도 같은 주에 휴가를 냈음
      이건 따지지 않았음. 그는 자신이라면 절대 받아들이지 않을 일을 남에게 요구하는 데 부끄러움이 없다는 걸 이미 충분히 알고 있었음

  • Amazon 대변인이 회사 전체 AI 사용 지표도, 직원끼리 비교하는 내부 순위표도 없고 개인 대시보드에서 자기 사용량만 볼 수 있다고 했다면 완전 헛소리임
    Kiro/QuickSuite(이전 Amazon Q) 사용량을 토큰 기준으로 직원별 순위화하는 전역 대시보드가 있음
    대시보드 자체는 QuickSight에 있고, QuickSight도 어차피 QuickSuite의 일부가 됐음
    데이터는 누구에게나 열려 있을 뿐 아니라 순위, 일간·주간·월간·연간 사용량으로 정렬할 수 있음
    현재 직원과 전 직원 모두 내부 별칭 기준으로 포함됨
    게다가 PhoneTool 프로필에 표시되는 내부 “시상” 시스템도 있어서, 각 직원이 Kiro/AmazonQ/Quicksuite 칭호인 “Blaze”, “Thunderstorm” 같은 것을 받음
    같은 상을 받은 다른 사람도 클릭만 하면 볼 수 있음
    참고로 PhoneTool은 다른 직원을 조회할 수 있는 내부 프로필 디렉터리임
    한편 제대로 된 코드를 스스로 작성하거나 무언가에 직접 통합하지 못하는 사람들을 여러 명 알고 있음
    계속 손잡아줘야 하는 사람들이 Kiro/AmazonQ로 엄청난 양을 만들어내며 요즘 SDE보다 높은 순위를 받음
    이들은 SDE라기보다는 SysDev, 지원 엔지니어, TPM에 가까움
    그 자체가 꼭 좋거나 나쁘다고만 할 수는 없지만, 토큰 사용량으로 스택 랭킹을 하면 “좋은” 코드를 쓰려 노력하는 좋은 엔지니어가 간결한 해법에 노력하지 않는 사람보다 낮게 평가될 가능성이 큼
    결국 품질은 떨어질 것이고, 리더십이 무슨 일이 벌어졌는지 깨달을 때는 너무 늦을 것임
    Amazon-Q/Kiro 관련 장애를 이미 봤는데도 계속 부인하고 있음

  • 우리 직장에도 이런 흐름이 오고 있음
    매일 MS Office의 Copilot을 쓰지 않으면 화난 알림을 보내서, 그냥 Hello라고 입력하고 있음

답변달기