AI가 직원을 대체한다고 생각하는 CEO는 그저 나쁜 CEO다

 (techdirt.com)
1P by GN⁺ | ★ favorite | 댓글 1개
  • LLM 도구는 직원이 자발적으로 배우고 업무 보조 도구로 선택할 때 강력해질 수 있지만, 전사적 강제 사용과 해고 위협은 좋은 활용법이 아님
  • 최근 3개월 동안 전달된 4건의 사례에서 CEO들은 전사 메일로 AI 도구를 즉시 배우지 않으면 다른 직장을 찾으라는 식의 메시지를 보냄
  • 토큰 사용량 리더보드처럼 사용량 자체를 보상하는 방식은 LLM을 잘 쓰는 법이 아니라 비생산적 사용을 늘릴 수 있음
  • CEO가 에이전트 도구로 작동하는 프로토타입이나 계약서를 만들었다고 해도, 코드 리뷰·조항 검증·보안·법적 준수 같은 실제 작업은 여전히 필요함
  • LLM의 힘은 잘 쓰는 직원이 더 많은 일을 하도록 돕는 데 있으며, 더 적은 인간이 필요하다는 뜻이 아님

CEO의 AI 과잉 반응

  • 최근 3개월 동안 CEO가 AI에 과도하게 반응한 사례 4건이 전달됨
  • 공통적으로 전사 메일에서 LLM 도구를 즉시 배우고 사용하지 않으면 다른 직장을 찾으라는 식의 메시지가 나타남
  • 일부 회사는 컨설턴트를 불러 팀에 도구 사용법을 가르치거나, 오피스 아워와 내부 AI 해커톤을 운영함
  • 모든 사례의 핵심은 AI가 놀라운 기술이므로 직원들이 업무에서 항상 사용해야 한다는 압박으로 정리됨

잘못된 장려 방식

  • 몇몇 회사는 토큰 사용량 리더보드를 만들었고, 이는 LLM을 잘 쓰도록 장려하는 방식으로 부적절함
  • AI를 잘 쓰려면 토큰을 희소한 자원으로 보는 법을 배워야 함
  • 단순히 토큰 사용량이 많을수록 좋은 사용으로 세면 비생산적 사용이 쉽게 늘어남
  • LLM 도구는 강력하고 중요할 수 있지만, 실제 유용성에는 여러 문제와 한계가 있음

강제 사용과 자발적 선택의 차이

  • LLM은 사용자가 도구를 잘 배우고 자발적으로 업무 보조 도구로 선택할 때 강력해질 수 있음
  • 강제로 LLM 도구를 쓰게 된 사람은 그 도구를 잘 쓰는 법을 배우지 못함
  • 직원들도 AI 도구의 힘과 한계를 더 깊이 이해하면 이익을 얻을 수 있음
  • LLM의 힘은 잘 사용되고 자발적으로 사용될 때 직원들이 더 많은 일을 하도록 돕는 데 있음

CEO가 놓치는 실제 업무

  • Box CEO Aaron Levie는 AI 신봉자이면서도 CEO가 AI에 과도하게 빠지는 이유를 설명함
  • CEO들은 AI로 가치를 만들기 위해 마지막 단계에서 필요한 실제 업무와 충분히 떨어져 있어 “AI psychosis”에 취약함
  • “AI psychosis”라는 용어는 오해를 부를 수 있으며, 여러 심리학자와 정신과 의사가 부정확하고 문제를 더 키울 수 있다고 비판한 표현임
  • CEO가 AI를 사용할 때 좋은 결과만 보고, 에이전트로 지속 가능한 결과를 만들기 위해 필요한 다음 10개 또는 20개의 작업을 고려하지 않음
  • CEO가 “멋진 제품 프로토타입을 만들었다”고 해도, 실제 프로덕션 투입 전 코드 리뷰와 문제 수정이 필요함
  • CEO가 “계약서를 생성했다”고 해도, 상대방에게 보내기 전 모든 조항 검증과 기존 계약과의 연결 작업이 필요함

작동과 규모 있는 제품의 차이

  • “작동하는 것”, “잘 작동하는 것”, “규모 있게 잘 작동하는 것”, “특정 환경에서 규모 있게 잘 작동하는 것”은 서로 다름
  • 회사가 많은 직원을 두는 이유는 CEO가 잘 보지 못하는 작지만 중요한 세부사항을 채우기 위함임
  • 보안, 법적 준수, 접근성은 CEO가 놓치기 쉬운 세부사항의 예시임
  • 에이전트 도구로 작동하는 무언가를 만드는 것은 가능하지만, 대중 시장용 제품을 잘 만들고 안전하게 쓰이도록 하려면 훨씬 많은 작업이 필요함
  • 에이전트 코딩 도구도 일부 작업을 도울 수 있지만, “내가 하나 만들었다”에서 “그러므로 누구나 만들 수 있다”로 뛰어넘으면 지식과 경험 있는 사람을 고용하는 이유를 놓침

개인화 도구와 카고 컬트 사고

  • LLM 도구의 최선의 사용 사례는 대중 시장용 도구 제작보다 특정 작업 수행을 돕는 완전 개인화된 도구 제작에 있음
  • CEO가 조직 어딘가에서 직원들이 컴퓨터로 일해 결과를 만든다는 사실만 보고, 자신이 Claude Code로 무언가를 만드는 일이 같은 일이라고 여기면 카고 컬트 사고가 됨
  • CEO가 보지 못하는 직원들의 추가 단계와 처리 작업은 여전히 필요함
  • CEO가 Claude Code 같은 에이전트 도구로 무언가를 만들고 그것이 작동하는 모습을 보면, 많은 직원이 왜 필요한지 잘못 판단할 수 있음

해고 논리와 기업 서사

  • CEO가 AI 기술에 전면적으로 몰입한 뒤 곧바로 직원 절반을 해고할 수 있다고 결론 내리는 모습은 어둡게 희극적인 상황으로 묘사됨
  • LLM 도구 때문에 대규모 인력을 해고할 수 있다고 생각하는 회사들은 곧 자신들이 틀렸다는 점을 알게 됨
  • 필요한 것은 더 적은 인력이 아니라 생산적으로 일하는 법을 아는 더 많은 인력임
  • 기업이 대규모 해고의 이유로 LLM을 내세우는 경우 대부분은 구실로 사용함
  • 과잉 채용을 했다는 설명보다 “AI 효율성”이라는 설명이 Wall Street에 더 받아들여지기 쉬운 이야기임

CEO가 배워야 할 것

  • CEO는 기술이 어떻게 작동하는지 배워야 하며, 여기에는 기술의 한계 이해가 포함됨
  • CEO가 바이브 코딩으로 만든 프로토타입이 프로덕션 준비가 끝났다고 생각한다면 직접 출시해 결과를 보게 해야 함
  • CEO가 바이브 코딩한 계약서가 변호사가 검토한 계약서만큼 견고하다고 생각한다면, 문제가 생겼을 때 법률 비용이 어떻게 되는지 보게 됨
  • AI 도구는 강력하지만, 직원의 일을 대체한다고 믿는 CEO는 나쁜 CEO임

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 예전 농담인 “코드의 90%가 작업의 90%다. 나머지 코드 10%가 또 다른 작업의 90%다”가 떠오름
    1986년부터 성인 생활 거의 전부를 제품 출시에 써왔고, 아주 초기에 배운 것 중 하나가 “출시”가 “설계”보다 크다는 점이었음
    브랜드를 걸고 내보낸 뒤 지원까지 해야 하는 제품을 전달하는 데는 일이 엄청나게 많음
    아이를 갖는 것과 비슷함. 잉태는 즐겁고, 출산은 고통스럽고, 키우는 건 평생의 일임
    돈을 받고 출시하는 제품에도 같은 식의 일이 적용된다고 봄

    • “브랜드를 걸고 내보낸 뒤 지원까지 해야 하는 제품을 전달하는 데는 일이 엄청나게 많다”는 점을 사람들이 AI에서는 다르게 생각하는 이유 중 하나는 Anthropic이 대부분의 작업에서 더는 코드를 쓰거나 리뷰하지 않아도 된다고 계속 말해왔기 때문임
      그들의 에이전트 무리가 GitHub, Slack, 위키를 훑어 다음 할 일을 파악하고, 또 다른 에이전트 무리가 코드 리뷰, 테스트, 병합, 배포, A/B 테스트, 되돌리기까지 한다는 식임
      Boris 혼자 지난 1~2주 동안 PR을 거의 300개 병합했으니, 최상위 연구소들은 생산성의 봉인을 깬 것처럼 보임
      그리고 이들은 너무 강력하고 자율적인 재귀적 자기 개선 AI를 말하면서, 모든 회사가 그 노력을 “중단”할 준비를 해야 한다고 주장함
      Fable/Mythos의 모델 카드[1]에는 모델이 너무 강력해서 보통 사람들이 쓰게 둘 수 없으니, 모델 튜닝과 학습 요청을 거절하겠다는 식의 제한도 들어 있음
      [1] We’ve implemented new interventions that limit Claude’s effectiveness for requests targeting frontier LLM development (for example, on building pretraining pipelines, distributed training infrastructure, or ML accelerator design). Using Claude to develop competing models already violates our Terms of Service, but enforcing this restriction through our safeguards avoids accelerating the actors most willing to violate these terms. Unlike our interventions for cybersecurity, biology and chemistry, and distillation attempts, these safeguards will not be visible to the user. Fable 5 will not fall back to a different model. Instead, the safeguards will limit effectiveness through methods such as prompt modification, steering vectors, or parameter-efficient fine-tuning (PEFT)
    • 완전히 동의함. 제대로 작동하는 사용자 유입 퍼널까지 갖춘 완성 제품을 출시하는 건 훨씬 더 어려움
      먼저 기능이 많은 전체 제품을 만든 다음, 그 기능들을 모두 랜딩 페이지에 드러낼 수 있도록 극도로 압축된 개요를 만들어야 하는 식임
      방문자가 10초 안에 복잡한 제품 전체를 이해하지 못하면 이미 놓친 것임
      제품은 복잡해야 함. 소프트웨어 시장이 이미 그런 상태이고, 낮게 매달린 과일은 발견할 때쯤이면 다 따여 있음
      기술 변화로 새로 생기는 쉬운 기회로 돈 버는 사람은 분명 나오겠지만, 그게 당신일 가능성은 낮음. 그걸 성사시킬 사업 인맥이 없을 테니까
    • 이 비유가 마음에 듦. 아이를 잘 키우는 것처럼 제품도 잘 전달하면 배당처럼 돌아오는 효과가 있음. 문제를 일으킬 가능성이 줄고, 문제가 생겨도 범위가 더 작아지는 편임
    • “코드의 90%가 작업의 90%다. 나머지 코드 10%가 또 다른 작업의 90%다”는 농담은 못 들어본 것 같지만, 내 경험상 확실히 맞는 말처럼 들림
      “경기의 90%는 절반쯤 정신력이다”라는 말도 떠오름
    • 비유가 끝까지 훌륭함. 마지막 10%는 나중에 유지보수에 시간을 많이 쓰지 않게 만들기 위해 가장 많은 노력과 반복이 들어감

  • 나쁜 CEO는 정말 많음. 정치인과도 꽤 비슷함. CEO가 되는 것은 상당히 어렵지만, 그 자리까지 올라가는 데 필요한 능력과 실제로 일을 잘하는 데 필요한 능력이 항상 잘 겹치지는 않음

    • CEO는 거의 모든 경우 많은 사내 정치를 통해 그 자리에 감
      누구에게 아부하고 누구에게 아부하지 않는지, 그리고 운 좋게 타이밍이 맞는지가 중요함
      CEO가 실제로 자기 일을 유능하게 하는 경우는 극히 드물다고 봄
      대부분은 노동 계층이 회사를 떠받치고 있고, 어떤 경우에는 CEO의 뜻에 반해서 직원들이 회사를 지탱하기도 함
      임원들이 회사를 망치고 싶어 한다는 뜻은 아니지만, 무능해서 계속 형편없는 결정을 내림
    • “CEO가 되기는 상당히 어렵다”와는 반대로, 자격이 전혀 필요 없어 보이는 몇 안 되는 직업 중 하나처럼 보임
      CEO가 되기 위해 필요한 건 결국 누군가에게 돈을 빌려주면 돌려받을 수 있을 거라고 설득하는 것임
      어디서도 면접을 통과하지 못할 것 같은 정말 끔찍한 사람들 밑에서 일해봤는데, 꾸준히 더 많은 돈을 끌어오는 재주가 있어서 CEO가 되어 있었음
    • 무슨 능력 말하는 건지 모르겠음. 몇 명 만나봤음
      대부분은 부유한 부모가 돈을 대주고, 동문 특혜로 명문 학교에 들어갔음
      상당수는 평균보다 똑똑했지만 천재는 전혀 아니었음
      그 부유함 덕분에 남들보다 컴퓨터를 일찍 접했음
      이들이 압도적으로 평균상 “nepo babies”라는 걸 이해하지 못하거나 이해하려 하지 않는 것처럼 보임
    • CEO가 되는 건 전혀 어렵지 않고, CEO 업무도 고급 기술 업무와 비교하면 특별히 어렵지 않음. 더 어려운 건 책임뿐임
      물론 Microsoft 같은 회사의 CEO는 여러 면에서 매우 어렵고 부담이 크겠지만, 대부분의 CEO는 그런 자리가 아님
      순전히 경험만 놓고 말하면 대부분의 CEO와 CTO는 아무것도 모르는 멍청이였음
      다만 나는 프로그래밍은 25년 했고 CEO는 3년만 해봤으니 어느 정도 걸러 들어야 함
      이런 직함을 사람들이 많이 과대평가한다고 봄. 결국 회사가 실제로 무엇을 하느냐, 그 회사에서 해당 직책이 무엇을 요구하느냐에 달려 있음
      별 의미 없는 SaaS 회사의 CTO는 대학 갓 졸업한 사람이어도 될 수 있음. 아마 누구나, 심지어 LLM도 조립할 수 있는 사소한 일을 하고 있을 가능성이 높기 때문임
      반대로 전 세계 인터넷 트래픽의 의미 있는 부분을 처리하는, 널리 쓰이고 신뢰성 높은 스트리밍 서비스의 CTO라면 훨씬 흥미롭고 어려운 문제를 풀고 있고 그 결정도 훨씬 중요함
    • “CEO가 되기는 상당히 어렵다”지만, 말 그대로 LLC나 Corporation 등록만 하면 됨. 대신 해주는 SaaS 회사도 여러 곳 있음

  • Xitter에서 “AI로 일자리를 대체하려는 CEO는 먼저 자기 비서를 AI로 대체해야 한다”는 말을 봤는데, 완벽한 규칙이라고 생각함
    AI 데모는 전부 개인 비서의 변형 같은 것이니, AI가 그 일은 할 수 있어야 하지 않나?
    비서를 둔 CEO 중 자원자는 0명일 거라고 봄
    참고로 인간 비서를 모욕하려는 뜻은 아님. 그들은 가치 있는 일을 하고 있고, AI로 대체돼서도 안 된다고 생각함

    • 이게 바로 자기 제품 직접 쓰기임
      OpenAI 쪽 사람이 이제 의사보다 낫다고 말했음. 내가 한 말이 아니라 그가 한 말임. 그러면 그는 자기 의사를 대체했겠지?

  • 맞춤형 AI라면 CEO를 대체하는 데 꽤 좋을 것 같음. 그만큼 간접비를 줄이면 회사가 할 수 있는 일이 얼마나 많아질지 생각해보면 됨

    • 맞춤형일 필요도 없음. ChatGPT가 하루 종일 기업 이니셔티브와 홍보 문구를 만들어도 아무도 눈치 못 챌 것임
    • CEO 한 명이면 토큰을 정말 많이 살 수 있음. 한번 해볼 만하다고 봄
    • 지금 프로젝트를 만들고 있고, 이후에는 그걸 관리하고 CEO 역할을 할 AI를 만들 예정임
      코드는 인간 + AI가 만들고, 관리는 AI만 맡김
    • AI가 비윤리적이거나 불법적인 일을 하면 누가 책임지나? 컴퓨터를 감옥에 넣나? 아니면 인간 CEO에게 하듯 그냥 못 본 척하나?
    • 아직 로봇공학이 거기까지 못 갔음. 투자자와 이사회 멤버들과 골프 약속을 다녀야 하니까

  • CEO들은 AI가 생산성 증가 가능성을 제공한다는 걸 이해함. 그 생산성 향상을 직원 감축에 쓰는 건 상상력이 부족한 접근임
    더 대담한 방식은 그 향상분으로 기존 고객의 기대를 뛰어넘거나, 직원 수를 비례해서 늘리지 않고 매출을 키우는 것 등임

  • 나쁜 CEO는 정말 많음
    나쁜 소프트웨어 개발자도 정말 많음
    둘이 만나면 소프트웨어 개발자가 해고됨
    CEO는 시간이 좀 지난 뒤 스톡옵션을 행사하고 나감

    • 나쁜 CEO + 나쁜 소프트웨어 개발자 = 새 CTO

  • 현대 상장기업 CEO는 대체로 노동력에서 마지막 1달러까지 짜내려는 헤지펀드 운용자에 가까움. AI는 그들에게 매혹적이지만 효과는 별로 없는 지렛대임

  • AI가 당신을 더 유능하게 만든다면, 기본적으로 자본 투입을 받은 것과 비슷함
    그걸 보고 인원을 줄여야겠다고 생각하는 CEO는 늘어난 자원을 어떻게 써야 할지 모른다는 신호도 보내는 셈임

  • 왜 이런 CEO들을 대체하는 AI 모델은 못 만들까? 회사 운영은 꽤 잘할 것 같은데

  • AI가 자기 CEO를 대체한다고 생각하는 직원들은 어떨까

    • 고위 경영진감이 딱 보임
답변달기