AI가 직원을 대체한다고 믿는 CEO는 그저 무능한 CEO일 뿐

• LLM 도구를 직원 전체에게 즉시 강제하고 미사용자를 해고 대상으로 모는 CEO들의 과열 반응이 최근 빈번하게 관찰되며, 이런 강압적 도입은 오히려 역효과를 냄
• 도구를 자발적으로 선택해 사용할 때만 효과가 발휘되며, 강제로 떠밀린 사용자는 결코 잘 다루지 못함
• CEO는 실무의 마지막 단계(last mile) 에서 멀리 떨어져 있어, AI의 매끄러운 결과(happy path)만 보고 그 뒤에 필요한 수많은 후속 작업을 간과함
• "작동하는 것"과 "제대로·대규모로·특정 환경에서 잘 작동하는 것"은 다르며, 보안·법규 준수·접근성 같은 세부를 채우기 위해 숙련된 인력이 필요함
• LLM을 이유로 대규모 인력 감축을 정당화하는 기업 대부분은 과잉 채용을 감추는 변명으로 AI를 이용하는 것일 뿐임

---

CEO들의 AI 과잉 반응

• 지난 3개월간 4건의 사례를 봤으며, 모든 사례가 유사한 패턴을 보임
  • "전사(all hands)" 이메일에서 LLM 도구의 놀라움을 강조하며, 전 직원이 즉시 학습하지 않으면 다른 일자리를 알아보라는 식의 통보
  • "컨설턴트"를 고용해 도구 사용법을 가르치거나, "오피스 아워" 또는 내부 "AI 해커톤" 운영
• 가장 나쁜 사례는 일부 기업의 토큰 리더보드 설정으로, LLM 학습 유도 방식 중 가장 어리석은 방법
  • 좋은 AI 활용은 토큰을 희소 자원으로 보는 법을 익히는 것을 포함
  • 사용량을 단순히 많이 쓰는 것 자체를 좋은 것으로 집계하는 방식은 비생산적 사용으로 토큰을 쉽게 낭비하게 만들어 비합리적

자발적 선택의 중요성

• LLM은 사용자가 도구를 잘 배우고 자발적으로 업무 보조 도구로 선택할 때 강력해질 수 있음
• 강제로 LLM 도구를 쓰게 된 사람은 그 도구를 잘 쓰는 법을 배우지 못함
• 직원들도 AI 도구의 힘과 한계를 더 깊이 이해하면 이익을 얻을 수 있음
• LLM의 힘은 잘 사용되고 자발적으로 사용될 때 직원들이 더 많은 일을 하도록 돕는 데 있음

Aaron Levie의 진단

• Box CEO Aaron Levie는 본인이 AI 신봉자임에도 CEO들의 과열 원인을 정확히 짚음
• CEO들은 AI로 대부분의 가치를 만들어내는 데 여전히 필요한 실무 마지막 단계와 충분히 동떨어져 있어 "AI psychosis(정신증)"에 빠지기 쉬움
  • AI를 다뤄보면 매끄러운 결과만 보고, 지속 가능한 성과를 위해 뒤따라야 할 10~20가지 후속 작업은 고려하지 않음
  • "멋진 제품 프로토타입을 만들었다" → 하지만 운영 환경 배포 전 코드를 검토하고 여러 문제 수정이 필요함
  • "계약서를 생성했다" → 하지만 상대방에게 발송 전 모든 조건을 검증하거나 과거 계약과 연동하는 작업이 필요함
• CEO가 할 수 있는 최선은 AI를 대량으로 써보며 엔터프라이즈에서 에이전트의 실제 함의를 파악하고, 장점과 실제 소요 작업 양쪽을 이해하는 것
• 다만 "AI 사이코시스"라는 용어 자체는 오해를 부르며, 다수 심리학자·정신과 의사가 부정확하다고 비판함

단절된 CEO와 카고 컬트적 사고

• 문제의 상당 부분은 전통적 CEO가 실제로 일을 처리하는 사람들과 단절되어 있다는 점에서 비롯됨
  • 여러 팀과 계층을 거치며, 실무가 작동하는 실제 과정은 조직도를 통해 단편적으로만 전달됨
• Claude Code 같은 에이전트 도구를 받아 무언가를 만들어 작동하는 것을 본 CEO가 "이렇게 직접 만들 수 있는데 왜 이렇게 많은 인력이 필요한가"라고 생각하는 지점에서 문제가 드러남 — 이런 CEO가 곧 무능한 CEO
• 직원을 두는 이유는 CEO 눈에 잘 보이지 않는 작지만 중요한 세부(보안, 법규 준수, 접근성 등)를 채우기 위함
• “작동하는 것”, “잘 작동하는 것”, “규모 있게 잘 작동하는 것”, “특정 환경에서 규모 있게 잘 작동하는 것”은 서로 다름
• 작동하는 무언가를 만드는 것과, 대중 시장용으로 안전하고 잘 쓰이는 제품을 만드는 것 사이에는 큰 차이가 있음
  • "내가 만들었으니 누구나 만들 수 있다"는 비약은 숙련되고 경험 있는 인력을 고용하는 이유 자체를 놓침
  • 따라서 최적의 활용처는 대중 시장용 도구가 아니라 특정 작업을 돕는 완전 개인화된 도구 제작
• 이는 카고 컬트(cargo cult) 사고와 유사 — CEO가 직접 Claude Code로 작업이 되는 것을 보고 직원들의 작업과 동일하다고 여기지만, 직원들이 처리하는 보이지 않는 모든 단계는 여전히 필요함

인력 감축 논리의 허점

• CEO가 AI 기술에 전면적으로 몰입한 뒤 곧바로 직원 절반을 해고할 수 있다고 결론 내리는 모습은 어둡고 웃기는 상황
• LLM 때문에 대규모 인력을 감축할 수 있다고 믿는 기업은 빠르게 오판임을 깨닫게 됨
• LLM의 힘은 잘·자발적으로 쓰일 때 직원의 생산성을 높이는 것이지, 더 적은 인간이 필요해진다는 뜻이 아님 — 오히려 생산적으로 일할 줄 아는 인간이 더 필요함
• LLM을 대규모 해고의 명분으로 내세우는 기업은 대부분 그저 변명으로 활용함
  • 과잉 채용을 해놓고, "잘못된 인력 결정"보다 "AI 효율화"가 월스트리트에 더 받아들이기 쉬운 서사이기 때문

결론

• Levie의 처방대로 CEO는 기술 작동 방식을 배워야 하되, 여기에는 기술의 한계까지 포함되어야 함
  • CEO가 바이브 코딩으로 만든 프로토타입이 프로덕션 준비가 끝났다고 생각한다면 직접 출시해 결과를 보게 해야 함
  • CEO가 바이브 코딩한 계약서가 변호사가 검토한 계약서만큼 견고하다고 생각한다면, 문제가 생겼을 때 법률 비용이 어떻게 되는지 보게 될 것
• AI 도구는 강력하지만, 그것이 직원의 일을 대체한다고 믿는 CEO는 단지 무능한 CEO일 뿐

[pjs102793]

"도구를 자발적으로 선택해 사용할 때만 효과가 발휘되며, 강제로 떠밀린 사용자는 결코 잘 다루지 못함"

이거 공감이 많이 되네요

[tommm]

plz

[GN⁺]

Hacker News 의견들

• 예전 농담인 “코드의 90%가 작업의 90%다. 나머지 코드 10%가 또 다른 작업의 90%다”가 떠오름
  1986년부터 성인 생활 거의 전부를 제품 출시에 써왔고, 아주 초기에 배운 것 중 하나가 “출시”가 “설계”보다 크다는 점이었음
  브랜드를 걸고 내보낸 뒤 지원까지 해야 하는 제품을 전달하는 데는 일이 엄청나게 많음
  아이를 갖는 것과 비슷함. 잉태는 즐겁고, 출산은 고통스럽고, 키우는 건 평생의 일임
  돈을 받고 출시하는 제품에도 같은 식의 일이 적용된다고 봄

  • “브랜드를 걸고 내보낸 뒤 지원까지 해야 하는 제품을 전달하는 데는 일이 엄청나게 많다”는 점을 사람들이 AI에서는 다르게 생각하는 이유 중 하나는 Anthropic이 대부분의 작업에서 더는 코드를 쓰거나 리뷰하지 않아도 된다고 계속 말해왔기 때문임
    그들의 에이전트 무리가 GitHub, Slack, 위키를 훑어 다음 할 일을 파악하고, 또 다른 에이전트 무리가 코드 리뷰, 테스트, 병합, 배포, A/B 테스트, 되돌리기까지 한다는 식임
    Boris 혼자 지난 1~2주 동안 PR을 거의 300개 병합했으니, 최상위 연구소들은 생산성의 봉인을 깬 것처럼 보임
    그리고 이들은 너무 강력하고 자율적인 재귀적 자기 개선 AI를 말하면서, 모든 회사가 그 노력을 “중단”할 준비를 해야 한다고 주장함
    Fable/Mythos의 모델 카드[1]에는 모델이 너무 강력해서 보통 사람들이 쓰게 둘 수 없으니, 모델 튜닝과 학습 요청을 거절하겠다는 식의 제한도 들어 있음
    [1] We’ve implemented new interventions that limit Claude’s effectiveness for requests targeting frontier LLM development (for example, on building pretraining pipelines, distributed training infrastructure, or ML accelerator design). Using Claude to develop competing models already violates our Terms of Service, but enforcing this restriction through our safeguards avoids accelerating the actors most willing to violate these terms. Unlike our interventions for cybersecurity, biology and chemistry, and distillation attempts, these safeguards will not be visible to the user. Fable 5 will not fall back to a different model. Instead, the safeguards will limit effectiveness through methods such as prompt modification, steering vectors, or parameter-efficient fine-tuning (PEFT)
  • 완전히 동의함. 제대로 작동하는 사용자 유입 퍼널까지 갖춘 완성 제품을 출시하는 건 훨씬 더 어려움
    먼저 기능이 많은 전체 제품을 만든 다음, 그 기능들을 모두 랜딩 페이지에 드러낼 수 있도록 극도로 압축된 개요를 만들어야 하는 식임
    방문자가 10초 안에 복잡한 제품 전체를 이해하지 못하면 이미 놓친 것임
    제품은 복잡해야 함. 소프트웨어 시장이 이미 그런 상태이고, 낮게 매달린 과일은 발견할 때쯤이면 다 따여 있음
    기술 변화로 새로 생기는 쉬운 기회로 돈 버는 사람은 분명 나오겠지만, 그게 당신일 가능성은 낮음. 그걸 성사시킬 사업 인맥이 없을 테니까
  • 이 비유가 마음에 듦. 아이를 잘 키우는 것처럼 제품도 잘 전달하면 배당처럼 돌아오는 효과가 있음. 문제를 일으킬 가능성이 줄고, 문제가 생겨도 범위가 더 작아지는 편임
  • “코드의 90%가 작업의 90%다. 나머지 코드 10%가 또 다른 작업의 90%다”는 농담은 못 들어본 것 같지만, 내 경험상 확실히 맞는 말처럼 들림
    “경기의 90%는 절반쯤 정신력이다”라는 말도 떠오름
  • 비유가 끝까지 훌륭함. 마지막 10%는 나중에 유지보수에 시간을 많이 쓰지 않게 만들기 위해 가장 많은 노력과 반복이 들어감

• 나쁜 CEO는 정말 많음. 정치인과도 꽤 비슷함. CEO가 되는 것은 상당히 어렵지만, 그 자리까지 올라가는 데 필요한 능력과 실제로 일을 잘하는 데 필요한 능력이 항상 잘 겹치지는 않음

  • CEO는 거의 모든 경우 많은 사내 정치를 통해 그 자리에 감
    누구에게 아부하고 누구에게 아부하지 않는지, 그리고 운 좋게 타이밍이 맞는지가 중요함
    CEO가 실제로 자기 일을 유능하게 하는 경우는 극히 드물다고 봄
    대부분은 노동 계층이 회사를 떠받치고 있고, 어떤 경우에는 CEO의 뜻에 반해서 직원들이 회사를 지탱하기도 함
    임원들이 회사를 망치고 싶어 한다는 뜻은 아니지만, 무능해서 계속 형편없는 결정을 내림
  • “CEO가 되기는 상당히 어렵다”와는 반대로, 자격이 전혀 필요 없어 보이는 몇 안 되는 직업 중 하나처럼 보임
    CEO가 되기 위해 필요한 건 결국 누군가에게 돈을 빌려주면 돌려받을 수 있을 거라고 설득하는 것임
    어디서도 면접을 통과하지 못할 것 같은 정말 끔찍한 사람들 밑에서 일해봤는데, 꾸준히 더 많은 돈을 끌어오는 재주가 있어서 CEO가 되어 있었음
  • 무슨 능력 말하는 건지 모르겠음. 몇 명 만나봤음
    대부분은 부유한 부모가 돈을 대주고, 동문 특혜로 명문 학교에 들어갔음
    상당수는 평균보다 똑똑했지만 천재는 전혀 아니었음
    그 부유함 덕분에 남들보다 컴퓨터를 일찍 접했음
    이들이 압도적으로 평균상 “nepo babies”라는 걸 이해하지 못하거나 이해하려 하지 않는 것처럼 보임
  • CEO가 되는 건 전혀 어렵지 않고, CEO 업무도 고급 기술 업무와 비교하면 특별히 어렵지 않음. 더 어려운 건 책임뿐임
    물론 Microsoft 같은 회사의 CEO는 여러 면에서 매우 어렵고 부담이 크겠지만, 대부분의 CEO는 그런 자리가 아님
    순전히 경험만 놓고 말하면 대부분의 CEO와 CTO는 아무것도 모르는 멍청이였음
    다만 나는 프로그래밍은 25년 했고 CEO는 3년만 해봤으니 어느 정도 걸러 들어야 함
    이런 직함을 사람들이 많이 과대평가한다고 봄. 결국 회사가 실제로 무엇을 하느냐, 그 회사에서 해당 직책이 무엇을 요구하느냐에 달려 있음
    별 의미 없는 SaaS 회사의 CTO는 대학 갓 졸업한 사람이어도 될 수 있음. 아마 누구나, 심지어 LLM도 조립할 수 있는 사소한 일을 하고 있을 가능성이 높기 때문임
    반대로 전 세계 인터넷 트래픽의 의미 있는 부분을 처리하는, 널리 쓰이고 신뢰성 높은 스트리밍 서비스의 CTO라면 훨씬 흥미롭고 어려운 문제를 풀고 있고 그 결정도 훨씬 중요함
  • “CEO가 되기는 상당히 어렵다”지만, 말 그대로 LLC나 Corporation 등록만 하면 됨. 대신 해주는 SaaS 회사도 여러 곳 있음

• Xitter에서 “AI로 일자리를 대체하려는 CEO는 먼저 자기 비서를 AI로 대체해야 한다”는 말을 봤는데, 완벽한 규칙이라고 생각함
  AI 데모는 전부 개인 비서의 변형 같은 것이니, AI가 그 일은 할 수 있어야 하지 않나?
  비서를 둔 CEO 중 자원자는 0명일 거라고 봄
  참고로 인간 비서를 모욕하려는 뜻은 아님. 그들은 가치 있는 일을 하고 있고, AI로 대체돼서도 안 된다고 생각함

  • 이게 바로 자기 제품 직접 쓰기임
    OpenAI 쪽 사람이 이제 의사보다 낫다고 말했음. 내가 한 말이 아니라 그가 한 말임. 그러면 그는 자기 의사를 대체했겠지?

• 맞춤형 AI라면 CEO를 대체하는 데 꽤 좋을 것 같음. 그만큼 간접비를 줄이면 회사가 할 수 있는 일이 얼마나 많아질지 생각해보면 됨

  • 맞춤형일 필요도 없음. ChatGPT가 하루 종일 기업 이니셔티브와 홍보 문구를 만들어도 아무도 눈치 못 챌 것임
  • CEO 한 명이면 토큰을 정말 많이 살 수 있음. 한번 해볼 만하다고 봄
  • 지금 프로젝트를 만들고 있고, 이후에는 그걸 관리하고 CEO 역할을 할 AI를 만들 예정임
    코드는 인간 + AI가 만들고, 관리는 AI만 맡김
  • AI가 비윤리적이거나 불법적인 일을 하면 누가 책임지나? 컴퓨터를 감옥에 넣나? 아니면 인간 CEO에게 하듯 그냥 못 본 척하나?
  • 아직 로봇공학이 거기까지 못 갔음. 투자자와 이사회 멤버들과 골프 약속을 다녀야 하니까

• CEO들은 AI가 생산성 증가 가능성을 제공한다는 걸 이해함. 그 생산성 향상을 직원 감축에 쓰는 건 상상력이 부족한 접근임
  더 대담한 방식은 그 향상분으로 기존 고객의 기대를 뛰어넘거나, 직원 수를 비례해서 늘리지 않고 매출을 키우는 것 등임

• 나쁜 CEO는 정말 많음
  나쁜 소프트웨어 개발자도 정말 많음
  둘이 만나면 소프트웨어 개발자가 해고됨
  CEO는 시간이 좀 지난 뒤 스톡옵션을 행사하고 나감

  • 나쁜 CEO + 나쁜 소프트웨어 개발자 = 새 CTO

• 현대 상장기업 CEO는 대체로 노동력에서 마지막 1달러까지 짜내려는 헤지펀드 운용자에 가까움. AI는 그들에게 매혹적이지만 효과는 별로 없는 지렛대임

• AI가 당신을 더 유능하게 만든다면, 기본적으로 자본 투입을 받은 것과 비슷함
  그걸 보고 인원을 줄여야겠다고 생각하는 CEO는 늘어난 자원을 어떻게 써야 할지 모른다는 신호도 보내는 셈임

• 왜 이런 CEO들을 대체하는 AI 모델은 못 만들까? 회사 운영은 꽤 잘할 것 같은데

• AI가 자기 CEO를 대체한다고 생각하는 직원들은 어떨까

  • 고위 경영진감이 딱 보임