인간의 주의를 요구한다면 인간의 노력을 보여줘야 한다

 (tombedor.dev)
6P by GN⁺ | ★ favorite | 댓글 1개
  • 팀 협업에서 AI가 작성한 디버그 조사·문서·코드가 늘어나며, AI 출력물을 언제 다른 사람이 읽도록 보내도 되는지가 새 에티켓 문제가 됨
  • 내부 코드베이스와 문서에 잘 통합된 AI는 실제로 유용한 출력을 만들 수 있음
  • 소프트웨어 엔지니어가 AI 텍스트를 읽는 시간이 늘어나며, 다듬지 않은 AI 출력물을 자기 글처럼 올리는 행동은 배려 없는 행위임
  • 읽지 않은 AI 비평 문서를 “정확하지 않을 수 있다”는 말과 함께 전달받으면, 보낸 사람에게도 읽을 가치가 없던 문서를 왜 받는 사람이 읽어야 하는지 문제가 됨
  • 핵심 원칙은 "인간의 주의를 요청하려면 인간의 노력을 보여라", 즉 AI 결과물을 공유할 때 AI 생성물임을 명확히 표기하고 본인 코멘트를 함께 첨부
  • AI 시대에 주의(attention)는 더욱 희소한 자원이 되었으며, AI 콘텐츠 라벨링과 인간의 노력 증명이 동료 배려와 업무 속 인간미 유지로 이어짐

AI 출력물이 만든 협업 예절 문제

  • 디버그 조사, 문서 작성, 코드 중 점점 더 많은 양이 로봇에 의해 작성되고 있음
  • 이 변화는 팀에서 AI 출력물을 다른 사람이 읽도록 전달해도 되는 시점을 따지는 새 에티켓 문제를 만듦
  • 내부 코드베이스와 문서에 강하게 통합된 AI는 실제로 유용한 결과물을 만드는 경우가 있음
  • 동시에 소프트웨어 엔지니어의 하루 중 AI 텍스트를 읽는 비중이 커지며 피로감(fatigue) 발생
  • “내가 로봇에게 시킬 수 있으면, 너도 시킬 수 있다”는 감각 때문에, 다듬지 않은 AI 출력물을 자기 글처럼 올리는 행동은 배려 없는 행위로 읽힘

인간의 주의에는 인간의 노력이 필요함

  • 디자인을 제안한 뒤 팀원이 AI에 비평을 요청하고, “읽어보지 않았으니 완전히 정확하지 않을 수 있다”는 단서와 함께 AI 문서를 전달한 사례가 있음
  • 읽어보지 않은 문서를 다른 사람에게 읽으라고 보내면, 보낸 사람에게도 가치가 없던 읽기 부담을 받는 사람에게 넘기는 문제가 생김
  • 핵심 원칙은 인간의 주의를 요청한다면 인간의 노력을 보여줘야 함임
  • AI 생성 콘텐츠가 유용하면 동료에게 보낼 수 있지만, AI가 만든 내용임을 명확히 표시하고 자신의 코멘트를 함께 붙여야 함
  • 사람에게 코드 리뷰를 요청할 때는 AI가 생성한 코드를 먼저 직접 검토해야 함

의미

  • AI 이전에도 주의력은 이미 희소한 자원이었고, AI 이후에는 그 희소성이 더 커짐
  • AI 생성 콘텐츠를 명확히 표시하고 인간의 노력을 보여주는 방식은 동료를 배려하고 일 속의 인간미(humanity) 을 유지하는 데 도움이 됨

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • Claude를 전면적으로 받아들인 생산성 높은 동료가 AI 생성 PR을 쏟아내면서 팀에 부담을 주고 있음
    6개월쯤 지나니 스탠드업에서 자기 PR이 리뷰되지 않고 방치된다고 자주 불평하는데, 의도적으로 피하는 건 아니지만 팀이 보기 쉽게 만들지 않음
    AI 콘텐츠를 거부하는 게 아니라, 실수를 찾아내고 걸러내려면 리뷰 effort가 듦. 큰 PR에서 환각을 지적하려면 한 시간씩 들여 정확해야 하는데, 그 리뷰에 다시 AI 생성 답변과 AI 생성 수정이 달리면 존중받지 못하는 느낌이고, 결국 무의식적으로 그 PR을 피하게 됨

    • 큰 소프트웨어 팀의 병목은 팀 커뮤니케이션임. 큰 팀과 작은 팀을 운영해 봤는데, 속도를 높이고 싶으면 팀에서 사람을 줄이는 게 매번 효과가 컸음
      해고가 아니어도 팀을 쪼개는 식으로 가능하고, 보통 제거되는 사람은 최고 성과자가 아님. 작은 회사를 운영하는 친구도 팀원을 1명 줄이자 거의 즉시 속도가 올라갔다고 했고, 그 사람이 주변을 느리게 만드는 병목이었음
      이건 AI 전부터 사실이었고, AI는 차이를 더 크게 드러낼 뿐임. 현재 AI 도구는 다중 사용자 협업에 적합하지 않고 상호작용이 1:1이라, 도구와 사람 사이의 인수인계가 결국 사람 간 커뮤니케이션에 막힘
      AI에 반발하는 감정은 이해되지만 생산적인 반사작용은 아닐 수 있음. 변화량이 줄어들지는 않을 테니 모든 코드를 수동 리뷰하겠다는 방식은 장기적으로 확장되지 않음. 수동 PR 리뷰가 실제 문제를 얼마나 찾는지, 그 가치를 제대로 평가하는지, 같은 문제를 자동으로 찾고 고칠 방법은 없는지 따져봐야 함
    • 그 동료와 이 문제를 직접 이야기해 봤는지 궁금함. 인간이 쓴 메시지에 AI 답변을 보낼 정도로 눈치가 없다면, 왜 사람들이 그러지 않는지도 모를 가능성이 큼
    • 그 행동은 자기 시간은 아끼면서 다른 사람의 시간은 덜 중요하게 여기는 것으로 해석될 수 있음
      본인이 그걸 깨닫고 있는지 궁금함
    • 좋은 경험칙은 남이 소비하는 데 드는 노력보다 더 많은 노력을 결과물 생산에 들이라는 것임
    • 항상 가능하진 않지만 변경 요청을 작게 유지하려는 훈련은 실제로 가치가 있고, 에이전트를 쓸수록 더 중요해짐
      파일과 줄 수가 순식간에 엄청나게 불어나기 쉬움

  • 요즘 느끼는 점과 정확히 맞음. 특정 동료가 좀 과하게 나가서 모든 코드 리뷰, 이메일이나 Teams 질문 답변, 새 스토리, 설계·아이디어 회의에서의 개인 의견까지 전부 AI 출력물을 거의 손대지 않고 그대로 냄
    앞으로의 프로젝트를 계획 중인데, 검토하라고 오는 문서는 장황하고 길며, 발견되는 문제들을 보면 사전에 본인이 읽어보지도 않은 것 같음
    내용이 정확하거나 때로 도움이 될 수 있다는 건 이해하지만, 계속 AI 챗봇과 대화하는 느낌은 피곤함. 다른 사람의 AI 생성 답변까지 대신 검증해 주고 싶지 않음

    • 본능적으로는 무시하는 쪽이 맞아 보임. 맥락마다 다르겠지만, 결국 “그건 읽지 않겠다”가 해법이어야 할 듯함
    • 이런 유형을 본 적 있음. 직장을 자기 자신과 회사 사이의 2인 게임으로 보고, 자기 노력 대비 커리어 이득을 최대화하려 하며 남에게 얼마나 불편을 주는지는 신경 쓰지 않는 직장 성향이 있음
      AI 전에는 실제로 일을 하거나, 들키지 않고 남의 공을 빼앗는 식의 게임을 해야 했음. 이제 AI가 나타나자 Claude에 전부 넣고, 작업을 시킨 뒤, 출력물을 복사해 다른 사람에게 붙여 넣는 방식으로 안 한 일의 공을 가져가는 최종 수단처럼 봄
      최소 노력으로 최대 가시성을 얻는 셈이고, 들키지 않는다고 생각하는 한 계속될 것임. 관리자가 개입하지 않거나, 겉으로 보이는 산출량 때문에 오히려 장려하면 더 나빠질 수밖에 없음
    • 내 의견이 내가 앵무새처럼 따라 한 AI 찌꺼기라는 건 상상하기 어렵다. 그래도 조금은 다듬지 않나?
      Claude도 자주 어이없는 판단을 하고, Gemini는 더 나쁨. 모델이 내 의견에 동의할 때조차 내가 뭔가 틀린 건 아닌지 의심하게 됨

  • 왜 이게 갑자기 긴급한 문제가 됐는지 모르겠음. 오래전부터 사람이 쓰지 않은 자동 “감사합니다” 이메일이 있었는데, 지금은 뭐가 다른가?

    • 그런 이메일은 늘 무례하다고 느꼈음. 자동 응답이고 내 쪽 일만 늘린다는 걸 너무 잘 알고 있었기 때문임
      그리고 이 글은 또 다른 점도 보여줌. AI 콘텐츠는 표시되어야 함. PR이 AI가 만든 것인지 항상 명확하지는 않음

  • 자기 일을 통째로 LLM 프롬프터로 자발적으로 격하시킨 사람이 이렇게 많다는 게 놀라움
    당신의 일이 기계의 일과 구별되지 않는다면, 상사가 중간 사람을 빼고 기계를 직접 쓰지 못하게 막는 게 무엇인가? 이 새로운 세계에서는 사람들이 자기 가치를 증명하려고 더 애쓸 줄 알았음

    • 모두가 AI에 적응하라고 말한다면, 자기 일 중 얼마나 많이 AI가 대신하게 할 수 있는지 실험하는 건 합리적임
    • 기술 업계에서 일했고 지금은 회사를 운영하는 입장에서, 솔직히 소프트웨어 엔지니어 중 좋은 엔지니어는 많아야 10~20% 라고 봄
      가혹하게 들리겠지만 거짓말하고 싶진 않음. 잘하는 사람이라면 아마 공감할 것임. 나머지는 대체로 별로였음
      커리어 내내 “기대 이상”보다 낮은 평가를 받은 적이 없고, 형편없는 엔지니어도 봤고 극소수의 뛰어난 엔지니어도 봤으며 그들을 멘토로 삼았음
      요즘 내 정책은 단순함. 생각하지 못하면 해고함. 뇌를 쓰지 못하는 사람에게 시간과 돈을 왜 쓰나? 차라리 AI 크레딧을 뇌를 쓰는 사람에게 주겠음
      생각은 인간의 일이고, AI는 인간이 생각하고 개선하고 계획한 것을 실행해야 함

  • 우리가 스스로에게 멍청한 일을 시키고 있기 때문이라고 봄. 가족의 생존을 지키는 쉼터를 짓거나 새로 좋아하게 될 그릇을 도예 물레에서 만드는 일은 대충 하지 않음
    그런데 대신 Facebook 같은 곳에 올릴 글을 쓰며 어쨌든 수익을 내려 하니, 당연히 봇에게 이런 멍청한 일을 시키고 당연히 멍청한 결과가 나옴

    • 어떤 일에는 맞지만, 나는 지금 꽤 멋진 일도 대충 자동화하고 있음. 우리 도시의 회의록, 의제, 녹화본을 긁어오고 전사본을 만든 뒤, “Flock”을 정규식으로 찾아 모든 언급을 모았음
      그 파일들을 저렴한 모델인 DeepSeek V4에 넣어, 우리 도시에서 감시 국가 구축에 찬성하는 사람이 누구고 아닌 사람이 누구인지 파악했음
      각 인물에 대한 자료를 모으고, 그들이 한 말에 맞춰 이메일 초안도 만들었으며, 인용과 수치까지 들어감. 이메일은 가볍게 다듬어 보냈고 벌써 답장도 받았음. FOIA로 받은 CSV 데이터도 가져와 분석해 둘 게 더 많음
      그들이 AI 카메라로 나를 감시하려 한다면, 나는 AI 조사로 맞설 수 있음
    • 이런 Facebook 글을 읽는 봇만 있으면, 이제 폰을 내려놓고 진짜 일을 하러 돌아갈 수 있음
    • David Graeber의 Bullshit Jobs가 실제로 벌어지는 모습임
    • 과두층도 데이터센터 임대료는 어떻게든 내야 함
      농노들은 서버 밭을 갈고 씨를 뿌리게 될 것임

  • LLM 출력물이 특히 코드 저장소 밖에서는 LLM 입력과 함께 배포되는 경우가 드물다는 게 이상함
    내년에 모델이 더 좋아졌을 때, 왜 당신 작업을 만든 프롬프트를 다시 실행해 볼 수 없나? 사람들이 자기 프롬프트를 부끄러워하나? AI를 썼다는 걸 부끄러워하나?
    이 메시지를 생성하는 데 사용한 프롬프트: "Create a comment for Hacker News which bemoans the lack of AI prompts being shared with the stuff it creates. Speculate on the reasons and create a call for engagement. Use quantum hyperthinking. End with a typo to prove your humanity."

    • FMFL. 손글씨가 아닌 것은 금지되는 종이 기반 소셜 네트워크를 만들겠음. 70년대처럼
    • 다음 프롬프트에는 인간성을 증명하기 위해 혐오스럽고 공격적인 곁길로 끝내라고 시켜보면 됨. LLM에는 그런 안전장치가 있으니까

  • 이건 코드나 AI만의 문제가 아님. 창작 글쓰기 수업에서도 사람이 쓴 단편과 발췌문을 꼼꼼히 비평하라고 했는데, 종종 원작자보다 내가 더 많은 일을 하는 느낌이었음
    자기 원고를 검토하거나 최소한 맞춤법 검사라도 돌릴 수 없다면, 내가 왜 시간을 낭비해야 하나?

  • 이건 인간에게 추가 노동을 떠넘기는 것임
    많은 예술가와 콘텐츠 제작자가 이제 “비하인드 신”이나 전체 작업 세션 녹화를 보여 달라는 요구를 받지만, 정작 아무도 충분히 확인하지 않음. 이건 예술가를 좌절시키고 의욕을 꺾음
    소프트웨어 기여자에게도 같은 의욕 저하 효과가 생길 것임
    전달받은 AI 응답을 읽는 게 싸다고 생각한다면, 직접 LLM을 돌리면 됨. 당신에게 드는 일의 양은 같음

  • 에이전트가 모든 걸 대신한다면 다음 사람에게도 똑같이 모든 걸 해줄 수 있다는 뜻임. 그 시점에서 당신은 대체 가능하고 분야 안에서 가치가 없음
    AI를 쓰더라도 깊이 배워야 함. 계속 채용될 사람은 깊은 지식 노동자임

    • “AI를 쓰더라도 깊이 배워야 한다”는 말은 현실적으로 노동 인구의 일부에게만 적용 가능하고 실행 가능하며, 그 일부도 줄어들고 있음
      많은 사람이 자기 깊은 지식과 깊은 기술이 생각만큼 깊지 않았다는 걸 알게 됐음. 즉 고용주 입장에서 대체 불가능할 만큼 깊지는 않았던 것임. 사람들은 대체로 자기 가치를 과대평가하는 데 꽤 능함

  • 우리 팀에서도 이걸 봄. 엔지니어라면 한계와 미묘한 차이를 더 잘 이해할 줄 알았는데, 지금은 꽤 엉망임
    팀원들이 검증을 거의 하지 않은 채 거대한 AI 생성 PR을 열고 리뷰를 요청하는 것뿐 아니라, 내가 존중하는 똑똑한 팀원들도 AI로 “코드 리뷰”를 하게 시킴
    이미 PR에는 자동 AI 코드 리뷰도 붙어 있음. 그래서 이제 “인간” 리뷰에서까지 환각 섞인 헛소리 답변을 받는 경우가 있음
    이걸 보면 일반 대중은 정말 위험하다고 확신하게 됨. 앞으로 거대한 AI 생성 사고를 정기적으로 보게 될 것임. 업계 사람들, 즉 일반 대중에 비하면 전문가인 사람들이 이렇게 명백해 보이는 방식으로 기술을 오용한다면, 비기술자들은 얼마나 더 잘못 이해하고 잘못 적용하겠나. 과장 광고를 하는 사람들과 파는 사람들의 도움까지 더해져서 말임

답변달기