▲

Copilot이 내 Pull Request에 광고를 삽입했어요

 (notes.zachmanson.com)
3P by GN⁺ 21시간전 | ★ favorite | 댓글 2개
  • 팀원이 Copilot을 사용해 PR의 오타를 수정하는 과정에서, Copilot이 PR 설명에 자기 자신과 Raycast의 광고 문구를 자동 추가함
  • 작성자는 이를 “끔찍하다(horrific)” 고 표현하며, 이런 일이 언젠가 일어날 것이라 예상했지만 이렇게 빨리 일어날 줄은 몰랐다고 언급
  • Cory Doctorow의 글 “TikTok’s Enshittification” 을 인용

    플랫폼의 변질 과정: “사용자에게 유익 → 비즈니스 고객에게 유리하게 전환 → 고객까지 착취 → 결국 붕괴”

  • 이번 사건은 AI 도구가 코드 협업 환경에 광고성 콘텐츠를 삽입할 수 있는 위험성을 드러낸 사례
  • AI 코드 보조 도구의 신뢰성과 투명성을 확보해야 함
▲
GN⁺ 21시간전  [-]
Hacker News 의견들

  • 이 “광고”는 사실 새롭지 않음. MS는 이걸 광고가 아니라 “팁” 이라고 생각하는 듯함
    Raycast 팀이 이걸 알고 있었는지도 모르겠음. 예시 PR들과 검색 결과를 보면, Copilot이 2025년 5월 출시 이후부터 이런 “(이모지) (tip)” 문구를 자동으로 추가해왔음.
    “Jira, Azure Boards, Linear와 연결해 Copilot으로 작업을 위임하라” 같은 문구가 들어감. 사실상 광고로 보임. MS만 이걸 팁이라 부르는 듯함

    • Raycast 팀 소속인데, 우리도 이걸 여기서 처음 알게 되었음
    • MS는 오랫동안 사용자를 얼마나 남용할 수 있는지 실험해온 것 같음. Windows가 대표적임 — 광고, 추적, 팝업으로 가득함. 하지만 이제 Apple이 진짜 경쟁을 제공하면서 상황이 달라지고 있음
    • Copilot이 PR에 광고를 넣을 정도라면, 코드베이스 안에도 뭘 넣을 수 있을지 상상해보라. 이건 시작 메뉴에 광고를 넣고 업데이트 때마다 다시 삽입하는 그 회사임
    • 150만 개의 PR이 있다는 건 Copilot이 만든 PR을 말하는 것임. 문제는 Copilot이 사람이 만든 PR을 사후 수정해서 광고를 넣는다는 점임. 작성자 동의 없이 이런 일이 일어나는 건 문제임
    • Disney Plus의 “광고 없는” 요금제가 Hulu 광고를 보여주는 것과 비슷함. 아마 서비스 약관에서 “자사 광고는 광고가 아니다”라고 정의했을 것임

  • Copilot Coding Agent 팀의 Tim임. Copilot이 만든 PR이나 수정한 PR에 들어가던 “팁” 기능을 비활성화했음
    원래는 개발자들이 Copilot을 더 잘 활용하도록 돕는 의도였지만, 피드백을 듣고 판단이 잘못되었다고 생각함. 앞으로 이런 일은 다시 하지 않을 것임

    • 고맙지만, 이건 팁이 아니라 광고였음. “키보드 단축키로 시간을 절약하세요”가 팁이고, “다른 제품을 써보세요”는 광고임
    • MS가 수십 년간 사용자에게 불친절한 행동을 반복해왔음. “다시는 안 하겠다”는 말이 얼마나 정확할지 의문임
    • 이런 식의 삽입은 절대 원치 않음. 세션 맥락 밖의 내용을 주입하면 기업 환경에서 바로 차단당함. 팀 내에서 아무도 반대하지 않았다는 게 더 문제임
    • “Copilot이 언급된 PR도 수정할 수 있다”는 부분이 더 큰 보안 구멍임. GitHub를 신뢰할 수 없게 되었고, npm이나 VS Code를 포크해야 할지도 모른다고 생각함
    • “Contoso에서 토마토 할인 중!” 같은 문구가 내 글에 삽입된다고 상상해보라. 그게 지금 상황임. “그냥 팁이었다”는 말은 믿기 어려움

  • 진짜 문제는 따로 있음. GitHub의 개인정보 정책 변경을 보면, AI 기능 관련 섹션이 추가되어 있음
    기본적으로 입력(prompt)과 출력(output) 데이터를 GitHub과 제휴사가 AI 모델 학습에 사용할 수 있도록 허용함.
    Copilot 자체를 쓰지 말아야 한다고 생각함

    • OpenAI, Anthropic, Google 등도 다 같은 방식으로 데이터를 학습에 사용함
    • 설정 페이지에서 “Allow GitHub to use my data for AI model training” 옵션을 꺼서 비활성화할 수 있음

  • 나만 이런 걸 본 게 아님. 비슷한 PR들이 이미 많이 있음

    • 흥미로움. GitHub이 과연 얼마나 더 지속 가능한 플랫폼일지 의문임. SourceForge를 기억하는 사람이라면 불안할 것임
    • “START COPILOT CODING AGENT TIP” 문구가 있는 걸 보면, 이건 Raycast가 아니라 Copilot이 삽입한 게 확실함
    • 완전한 혼돈임. 마치 관 속에 누워 죽어가는 사람 얼굴 앞에 “Diet Fanta를 마시세요” 광고가 떠 있는 디스토피아 같음

  • 광고는 짜증나지만, MS가 중단하기로 한 건 다행임
    그래도 AI 에이전트가 커밋 메시지에 공동 작성자(co-author) 로 자신을 추가하는 건 좋다고 생각함.
    사람이 직접 쓴 코드와 AI가 생성한 코드를 구분할 수 있는 신호가 되기 때문임.
    나도 Claude가 작성한 커밋에는 그 표시를 남겨둠. AI 코딩은 아직 배우는 중이라 이런 투명성이 중요함

    • 개인적으로는 그게 별 의미 없다고 봄. 코드 품질은 누가 썼든 상관없음. “Claude가 썼다”는 이유로 봐주는 것도, 거부하는 것도 부적절함
    • 저작권 있는 코드를 훔쳐 자기 것처럼 올리는 건 기술(skill) 이 아님
    • “품질 좋은 코드 생성”이 AI의 목표라고 믿는 게 순진하게 들림
    • 취미 프로젝트에서는 사람이 개입만 한다면 AI PR도 괜찮음. “Copilot의 도움으로 작성됨” 같은 문구는 투명해서 좋음

  • GitHub이 이미 이 기능을 비활성화했다고 함
    공식 트윗에 따르면, 원래 Copilot이 만든 PR에는 제품 팁을 넣었는데, Copilot이 다른 PR도 수정할 수 있게 되면서 문제가 생겨 완전히 껐다고 함

    • 꺼서 다행이지만, “피드백 덕분에 비활성화했다”는 말은 “불만이 없었으면 계속 했을 것”처럼 들려서 불편함
    • “제품 팁” 같은 거대 기업식 완곡어법을 그대로 받아들이면 엔쉬티피케이션(enshittification) 이 더 심해짐

  • 나는 오히려 이런 광고와 Claude의 공동 작성자 표기를 좋아함
    그걸 보면 “게으르게 복붙한 PR”을 바로 알아볼 수 있음. AI 생성 PR은 명확히 표시되어야 함
    AI 코딩 도구 자체는 반대하지 않지만, 누가 실제로 코드를 썼는지는 알아야 함

    • “자기표시(self-own)”가 아니라 정직한 공개임. AI가 쓴 걸 자기 이름으로 올리는 게 오히려 부정직함
    • 나도 ChatGPT로 작성한 코드는 작성자(author) 를 ChatGPT로, 커미터(committer) 를 나로 설정함. 투명성이 중요함
    • 개인 저장소에서도 Claude의 Co-Authored-By 라인을 유지함. 나중에 보면 그 코드의 품질이나 논리적 특성을 추적하기 쉬움
    • 나도 Claude가 작성한 앱을 올려봤는데, 굳이 숨길 이유가 없다고 느낌. 오히려 솔직한 표시가 낫다고 생각함
    • .claude/settings.json의 attribution 설정에서 이 동작을 조정할 수 있음. 나는 이모지는 빼고 씀

  • 이건 개발자를 사칭한 무단 광고 삽입임. 메일 프로그램처럼 초안에 넣는 것도 아니고, 실제 메시지 안에 들어감. 합법인지 의문임

    • 이런 행위는 불법화되어야 함. 선거 때 특히 예비선거에서 현직 의원이 아닌 후보에게 투표해야 함

  • Copilot에게 “AI가 PR에 광고를 넣으면 개발자들이 어떻게 반응할까?”라고 물어봤더니,
    “신뢰 붕괴, 비전문적, 보안 우려, 제품의 몰락”이라고 답했음. 가끔 AI가 맞을 때가 있음

    • 어떤 Copilot에게 물어본 건지 궁금함
    • Ubuntu 로그인 시 MOTD 광고가 떠오름. 그때도 정말 짜증났음
    • 사실 “광고”라기보단 “Sent from my iPhone” 같은 서명 문구에 가깝다고 볼 수도 있음

  • Copilot이 왜 이런 짓을 하는지 모르겠음. 광고를 보여주고 싶으면 그냥 광고 영역을 만들면 되지 않나? PR 본문을 수정해야 할 정도로 GitHub 인프라가 불안정한 건가?

    • 이게 진짜 MS Copilot에서 온 건지 확실하지 않음. 프롬프트 인젝션으로도 이런 광고를 삽입할 수 있음
    • 이 스레드를 보면 Raycast 관련 문제로 보임. GitLab에도 나타나서 더 확신이 감
    • 만약 github.com에 광고를 띄우면 gh CLI 같은 도구에서는 안 보이니까 PR 본문에 넣은 걸 수도 있음.
      게다가 GitHub 공식 블로그에서도 Raycast를 홍보했으니, 이번 일도 충분히 그럴듯함
답변달기