20P by gogokow27 3일전 | ★ favorite | 댓글 2개

서론 ‒ AI 개발자 생산성에 대한 오해와 현실

  • 마크 저커버그(Meta CEO) 가 "2025년 말까지 미드레벨 엔지니어를 모두 AI로 대체하겠다"고 선언하면서 각 기업 CTO들이 같은 압박을 받음.
  • 연사는 "AI가 개발자를 전적으로 대체할 수 없다"는 점을 분명히 하며, AI 도입이 생산성에 분명히 도움을 주지만, 항상 그런 것은 아니고, 오히려 생산성이 감소하는 경우도 드물지 않다고 강조.

연구 설계 및 데이터

  • 3년간, 600여 개 회사, 10만 명 이상의 소프트웨어 엔지니어, 십억 줄 이상의 코드, 수천만 건의 커밋 대상으로 측정.
  • 대부분은 비공개 저장소(Private Repo) 기반 데이터 → 개발팀과 기업 단위의 실제 생산성 변화 측정 가능.

기존 연구의 한계

  • 벤더 주도의 보고서는 자사 AI툴 홍보 목적이 많아 객관성 부족.
  • 단순 커밋/PR 개수, 평균 작업 시간 변화 등은 실제 생산성을 왜곡할 수 있음.
    • 예: AI 사용 직후엔 버그나 재작업(rework)성 커밋이 함께 증가하여 피상적으로만 생산성이 높아진 것처럼 보임.
  • "그린필드(새로운 프로젝트) 실험"에서는 AI의 효과가 매우 커 보이나, 기존 코드(브라운필드)에서는 차이가 줄어듦.
  • 개발자 설문(Self-report)은 실제 생산성과 큰 상관성이 없음(30%포인트 이상 체감과 실제 간극).

Stanford의 생산성 측정 모델

  • 전문가 패널 평가와 유사한 AI 기반 자동화 모델 활용:
    • 커밋별 기능적 변화(added/removed/refactored/rework) 측정
    • 단순 "라인 수"가 아니라 "기능, 유지보수성, 품질"에 초점
  • 기능 도입량, 리팩터링, 최근 커밋의 재수정(rework) 비중 등 정밀함.

주요 연구 결과

  • 전체적으로 AI 도입 시 평균 생산성 15~20% 증가.
    • 하지만 상당량의 "재작업"(rework)이 동반되어 체감적 효익이 과장되는 경향도 있음.
  • 팀/회사/과제 유형별로 큰 편차 존재.

생산성 격차의 원인: 과제 난이도·프로젝트 종류·언어·코드베이스 크기

프로젝트 유형 낮은 복잡도 높은 복잡도
그린필드 (신규) 30~40% ↑ 10~15% ↑
브라운필드 (기존) 15~20% ↑ 0~10% ↑
  • 복잡성이 낮고, 신규(그린필드) 프로젝트에서는 AI의 효과가 큼.
  • 기존(브라운필드)·복잡한 시스템은 효과가 뚜렷하게 줄고, 일부 케이스에서는 생산성 감소 사례도 발견.
  • 실제 27개 기업 136개 팀 샘플 기준(강의 내 언급).

언어 인기와 AI 효과

  • 파이썬/자바/자바스크립트(인기 언어) 에서는 AI의 생산성 향상 크며,
  • COBOL/엘릭서/하스켈(비인기 언어): AI의 도움 거의 없고, 오히려 복잡한 작업에선 시간 낭비-생산성 저하까지 유발.
    • 예: 비인기 언어 & 높은 난이도의 경우 "오류 많고, 맞는 코드 못 내놓음" → 없는 게 나음.

코드베이스 크기와 AI 효과

  • 코드베이스가 클수록 AI의 생산성 향상효과가 급격히 줄어듦.
    • 원인:
      • 컨텍스트 윈도 한계: LLM이 여러 파일/수십만~수백만 라인 전체 맥락을 다 넣을 수 없음.
      • "시그널/노이즈 비율" 감소: 맥락 정보가 많아질수록 AI가 적합한 정보를 제대로 식별하지 못함.
      • 도메인별, 서비스별 복잡도가 많아질수록 실제 재구현 난도 상승
    • 실제로 최신 대형 LLM(Gemini 1.5 Pro 등)은 "토큰 수"가 늘어날수록 정확도가 90%→50%미만으로 급락.

총정리: 언제 AI가 효과적인가?

  • AI는 대부분의 경우(특히 간단한 신규 코드 작성)는 분명히 개발자 생산성을 향상시킴.
  • 하지만 복잡한 유지보수, 오래된(대형) 코드, 비주류 언어, 많은 의존성이 있는 환경에서는 한계 크고,
  • 최상의 AI 생산성 전략은 회사·팀·과제 특성에 맞추어 신중하게 설계해야 함("원 사이즈 핏 올" 아님).
  • 설문, 마케팅 지표, 단순 커밋 수 증가는 신뢰 어렵고, 실제 코드 기능성과 반복작업 비율, 재작업량 등 "현실 기준 측정" 필요.

부가적 코멘트 및 사례

  • "고스트 엔지니어": 우리 데이터 내 10% 엔지니어는 거의 일하지 않고 급여만 받는 사례도 발견.
  • 팀장·CTO가 실제 문제를 빠르게 진단하기 위한 "지표 기반 의사결정" 도구의 필요성 강조.

결론

  • AI는 "대다수 상황"에서 생산성 증가하지만, 과대평가 또는 과소평가 모두 주의해야 함.
  • 도입 성과가 잘 나는 "구체적 조건(간단/신규/인기 언어/작은 codebase)"을 파악해서 적용해야 하며, 무비판적·무차별적인 도입은 오히려 역효과가 날 수 있음.

메인 소프트웨어에 적용하지 않더라도, 테스트 프로그램이나 프로젝트 시작 단계에서 AI가 시간을 많이 절약해 줍니다.

코드를 짜주는것을 차지하더라도 어시스턴트 기능이 AI 도입되고나서 하늘과 땅 차이로 바뀌었다고 봅니다. 이제는 AI가 선택이 아니라 필수인 시대가 되었다고 봅니다.

실제로 MVP 에서 많은 도움이 됩니다. 특히 주석, 로깅, 히스토리 작성에서는 무조건 써야 된다고 생각합니다.
다만 코드베이스가 커지면 환각과 기존 코드를 잊어버리고 이상한 결과를 만듭니다. 컨텍스트 엔지니어링을 사용하거나 코드베이스를 줄이는 방법을 고민해야 합니다.
아마 좀더 큰 프롬프트를 사용할 수 있으면 개선될 것같습니다.
현재 자바, 파이썬, 자바스크립트, 고랭은 잘 되는 것같습니다. 코파일럿 주로 쓰고 클로드와 챗지피티 씁니다.