▲

엑셀에 코파일럿이 들어간 것이 걱정되는 이유

 (simonwillison.net)
2P by GN⁺ 3일전 | ★ favorite | 댓글 1개
  • TikTok 사용자 Ada James(@belligerentbarbies) 가 엑셀에 AI 코파일럿이 도입된 상황에 대한 우려를 표현
  • 엑셀이 “우리 경제를 움직이는 괴물”로 비유되며, 그 괴물을 길들인 존재로 ‘브렌다’ 가 등장
  • 브렌다는 모든 기업 재무 부서에 존재하는 엑셀의 여신 같은 인물로 묘사됨
    • “하늘에서 내려온 엑셀 여신이 브렌다의 이마에 입맞춤했다”는 상징적 표현 사용
    • 브렌다의 노력 덕분에 자본주의가 작동한다는 과장된 비유 등장
  • 브렌다가 만든 재무 보고서를 상사가 수정하려 할 때, 상사는 AI가 브렌다보다 똑똑할 것이라 믿고 코파일럿을 사용
  • 그러나 AI는 엑셀을 잘못 다루고 보고서를 망침, 상사는 그 오류를 인식하지 못함
  • 이유는 상사가 엑셀을 이해하지 못하고, AI가 환각(hallucination) 을 일으키기 때문

“환각을 만들지 않는 사람은 누구일까? 브렌다”

▲
GN⁺ 3일전  [-]
Hacker News 의견

  • 기술 사용에 대한 두 가지 상반된 내러티브가 흥미로움
    하나는 “Brenda 같은 사람은 실수하니 자동화가 필요하다”는 주장이고, 다른 하나는 “Brenda는 완벽하지만 AI는 오류가 많다”는 주장임
    사실 이 둘은 모순이 아님. 우리는 이해 가능한 작업, 신뢰할 수 있는 실행, 관찰 가능한 과정, 지루한 반복 업무에만 자동화를 적용함
    문제는 AI가 이런 조건을 충족하지 못할 때 생김. 특히 AI의 자율성이 두려움을 유발함. “왜 이런 결과가 나왔는지 모르겠다”는 불안감 때문임
    그래서 사람들은 여전히 좁은 범위의 AI나 안전장치가 있는 AI를 더 신뢰함

    • “Brenda는 완벽, AI는 오류”라는 단순 구도가 아님
      전통적인 코드는 항상 같은 입력에 같은 출력을 내지만, AI는 매번 다름
      AI가 왜 그렇게 작동했는지 이해할 수 없는 불투명성이 문제임
      Brenda는 실수해도 원인을 묻고 고칠 수 있지만, AI는 그게 어려움
      나도 AI를 좋아하지만, 그 한계를 잘 알고 있음
    • 모순이 아니라, 우리가 말하는 ‘기계’는 결정론적 알고리즘을 의미함
      반면 생성형 AI는 예측 불가능함
      예측 가능성 순서를 매기면 Quick Sort > Brenda > Gen AI 순임
    • “Thinking mode”는 디버깅 가능성의 환상을 줄 뿐임
      생성된 토큰은 인간의 사고 과정을 반영하지 않음
      모델이 만든 “추론 단계”는 실제 내부 상태를 보여주지 않으며, 보이지 않는 편향에 따라 결론이 바뀜
    • 회계 같은 분야에서는 결정론적 자동화가 중요함
      AI는 검증이 어렵고, 비용 대비 가치가 불분명함
      결국 “Brenda + AI” 조합이 더 나을지, 아니면 Brenda 혼자 나을지가 핵심 질문임
      지금의 AI는 여전히 “몇 년 후쯤 유용해질 것”이라는 상태에 머물러 있음
    • AI를 불신하는 이유는 Brenda가 완벽해서가 아니라, 리더들이 Brenda보다 AI를 더 믿기 때문임

  • 우리 조직에서도 Microsoft Stack에 Copilot과 AI가 강제로 도입됐음
    대부분의 기능은 비활성화되거나 쓸모없었음. 결국 주가 부양용 마케팅에 불과함
    또, 회사는 AI 회의 녹취 봇을 금지함. 보안상 위험하기 때문임

    • 회의록 전사는 기업용 AI 중 가장 유용한 기능 중 하나지만, 클라우드에 신뢰를 두긴 어려움
    • “Microsoft가 쓸모없는 걸 밀어붙이는 건 40년 된 비즈니스 모델”이라는 냉소적 반응도 있음
    • 개발자 스택까지 AI가 침투하는 게 불편함
      VS 코드 자동완성이나 오류 해석은 좋지만, 모든 걸 챗 인터페이스로 몰아넣는 건 별로임
      음성 인식 품질부터 개선했으면 함

  • 예전에 친구 회사에서 매일 재무 데이터를 DB에 커밋하는 Perl 스크립트가 있었음
    그 스크립트 없이는 회사가 돈을 벌 수 없었음. 관리자 비밀번호를 아는 사람은 단 한 명뿐이었음
    Copilot이 아무리 좋아도 그 비밀번호는 모름

    • 그런 시스템이 있다면 Copilot보다 운영 리스크가 더 큰 문제임
    • 나도 예전에 월 500만 달러를 청구하는 시스템을 관리했는데, root 비밀번호를 남긴 사람이 없었음
      지금도 2008년 리눅스로 돌아가고 있을 것 같음
    • 어떤 동료는 비슷한 Perl 스크립트를 30페이지짜리로 인쇄해 집에 보관했었음
    • 이런 상황은 AI 반대 논거가 아니라, 조직 관리 부실의 증거임
    • 이런 구식 시스템은 직업 안정성에도 도움 안 됨

  • TikTok 영상에서 인용된 문장이었음
    yt-dlp로 MP4를 받고 MacWhisper로 전사했음

    • 그냥 직접 타이핑하는 게 더 빨랐을 것 같음
    • TikTok 인용이 HN 상위에 오른 건 처음 보는 일임
    • 아이러니하게도, 이 일은 Brenda에게 맡겼어야 했을지도 모름
    • MacWhisper는 parakeet v2 모델을 쓰는 GUI 툴인데, 사실상 Python 스크립트용 $60 껍데기 같음

  • 나도 Excel에서 LLM을 써봤는데, 현실 데이터에서는 즉시 혼란에 빠짐
    데모는 항상 깨끗한 재무제표나 교과서 예제임
    실제 기업 데이터는 전혀 다름. Excel에서는 거의 쓸모없음

    • Excel을 잘 모르는 입장에서는 LLM이 가능한 기능을 알려주는 가이드로는 쓸 만할 듯함

  • 내가 아는 Brenda들은 단순히 스프레드시트만 다루는 게 아님
    실제로는 운영팀과 협의, 결정 영향 분석, 예외 처리 등 복잡한 일을 함
    Copilot은 이런 맥락을 전혀 이해 못 함. “지출 청구서 템플릿”을 요청하면 #REF 오류가 뜬 시트를 줌

    • 재무팀의 비효율은 대부분 낮은 우선순위 때문임
      개선 제안을 직접 하는 게 좋음. 예를 들어 공유 워크북 링크를 만들어 모두가 그걸 쓰게 하면 됨
      단, 꾸준히 업데이트하지 않으면 다시 혼란이 생김
    • 자동화를 늘리면 결국 Brenda보다 세 배 비싼 인력이 필요해지고, 단순 이메일이 티켓 시스템으로 바뀜
    • “Brenda를 줄이자”는 말보다, Brenda를 존중하고 지원하는 태도가 필요함
    • 자동화가 생기면 유지보수 인력이 필요하고, 그게 더 비쌈
      프로세스가 바뀔 때마다 조율이 필요해 결국 다시 수동으로 회귀함

  • “AI가 망칠까 봐 두렵다”는 문제는 Git 연동된 Excel 버전 관리로 완화 가능함
    Copilot이 만든 수식이나 VBA 변경을 커밋 단위로 추적하면, 무슨 일이 일어났는지 명확히 볼 수 있음

  • Brenda는 느려졌지만, 그 덕분에 시스템 전체를 지탱하는 방법을 알고 있음

    • 하지만 결국 상사는 “AI로 더 빠르게 하겠다”며 업무를 외주화할 것임
      Brenda는 실직하고, 다른 나라 누군가는 새 일자리를 얻음

  • AI를 쓴다고 해서 책임이 면제되는 건 아님
    AI 결과를 검증할 수 있을 만큼의 전문성이 있어야 함
    시간을 절약할 수는 있지만, 검증 과정 때문에 생각보다 덜 절약됨

  • 나도 Excel을 좋아하지만, 복잡한 중첩 수식은 여전히 어렵게 느껴짐
    ChatGPT나 duck.ai 같은 모델을 써봤지만, 자주 엉뚱한 수식을 내놓음
    여러 번 수정 요청을 해야 겨우 작동함
    LLM이 영어로 설명해주는 건 좋지만, 결과적으로 시간 낭비와 좌절이 많았음
    처음엔 Excel을 더 쉽게 만들어줄 거라 믿었지만, 지금은 아직 멀었다는 확신이 생김

답변달기