아니오, AI가 내 글을 “다듬는” 걸 원하지 않아요

• 이메일 작성 중 뜬 “Polish” 마법봉은 번역 기능처럼 보였지만, 실제로는 Gmail이 AI로 문장을 다듬어 이메일 전체를 바꾸는 기능이었음
• AI가 바꾼 문장은 평소 말투와 너무 달라, 지인이 받으면 납치당한 사람이 보낸 이메일처럼 보일 정도였음
• AI 수정을 원하지 않는다고 직접 적은 뒤에도 polish 제안이 다시 나타났고, 그 거부 문장마저 AI가 고치려 했음
• 오타, 장황한 괄호, 늦은 답장에 대한 사과, “HUGS”나 “FIGHT THE PATRIARCHY” 같은 서명은 필자의 이메일이 본인 것임을 보여주는 흔적임
• 블로그 작성 중에도 AI 이미지 생성 제안이 끼어들면서, 창작할 때마다 컴퓨터가 “내가 할게”라고 외치는 유아처럼 느껴짐

---

Gmail “Polish”가 이메일을 통째로 바꾼 순간

• 이메일 작성 중 작은 마법봉 아이콘과 함께 “Polish”라는 문구가 나타남
• 처음에는 이메일을 Polish language로 번역하려는 기능처럼 보여 이상하게 느껴짐
• 아이콘을 없애려고 클릭했지만, Gmail은 이메일 전체를 AI가 다듬은 문장으로 바꿔버림
• 바뀐 이메일은 평소 말투와 너무 달라서, 지인이 받으면 본인이 보낸 것이 아니라고 여길 수준이었음

거부 의사까지 다시 고치려 한 AI

• 제안된 재작성문을 삭제한 뒤, AI가 이메일을 고치는 것을 원하지 않는다는 취지로 직접 문장을 추가함
• 그 뒤에도 Gmail의 polish 기능이 다시 나타남
• AI는 “AI가 이 문단을 고치지 않았으면 한다”는 취지의 문단까지 다시 다듬으려 함
• 사용자의 거부 의사와 상관없이 글을 계속 정돈하려 드는 상황으로 받아들여짐

다듬어진 문장보다 알아볼 수 있는 문체

• 본인의 이메일은 보통 다음과 같은 흔적을 남김
  • 오타가 있음
  • 장황한 괄호 문장이 들어감
  • 몇 달 늦게 답장한 데 대한 사과가 포함됨
  • “HUGS”, “LOVE”, “FIGHT THE PATRIARCHY”, “DOWN WITH POWDERED GRAVY”, “SORRY I SUCK SO MUCH” 같은 서명이 붙을 수 있음
• 이런 불완전하고 산만한 방식이 본인임을 알아볼 수 있게 하는 요소임
• AI 제안을 계속 거절하면 AI가 자신에게서 배워, 자신의 나쁜 이메일 예절을 세상에 퍼뜨리길 바란다고 농담함

블로그 작성 중에도 끼어든 AI 이미지 제안

• AI를 싫어한다는 글에 이미지를 넣으려는 순간, 블로그가 AI 이미지 생성을 제안함
• 사용자는 특정 이미지를 추가하려고 클릭했지만, 시스템은 대신 AI 이미지 생성을 권함
• 이 상황은 몰래카메라처럼 느껴졌고, 컴퓨터 전체가 창작할 때마다 “내가 할게”라고 외치는 유아처럼 보임

“please stop giving me AI”라는 프롬프트

• AI가 얼마나 더 잘할 수 있다고 여기는지 확인하려고, 이미지 생성 프로그램에 “please stop giving me AI”라는 프롬프트를 입력함
• 결과를 보고 “도움이 필요했던 것이 맞다”고 비꼬듯 반응함
• 전체 경험은 결국 “이건 별로다”라는 짧은 결론으로 끝남

[GN⁺]

Hacker News 의견들

• 뭔가를 만들려고 할 때마다 컴퓨터 전체가 “내가 할래!”라고 소리치는 유아처럼 느껴짐
  모든 자동수정이나 자동 제안이 원래도 이렇게 느껴졌지만, 이제는 볼륨이 11까지 올라간 느낌임. 밋밋하던 Adobe Reader조차 반짝이는 버튼과 팝업으로 뒤덮여 문서를 읽지 않아도 “인사이트”를 줄 수 있다고 제안함
  우선 내 독점 문서를 읽으면 안 되고, 디지털 서명 때문에 이 소프트웨어를 쓰는 많은 사람이 제3자와 지식재산을 공유할 권한이 있을지도 의심스러움. 가끔 유용한 도구일 수는 있지만, 모두가 얼굴 앞에 들이대는 모습은 절박함이 묻어남
  기술 업계는 정말 심각한 문제에 빠져 있음

  • 이건 더 제한된 형태로 이미 겪어봤던 일임. Microsoft Office의 악마 같은 Clippy가 “편지를 쓰시는 것 같네요”라고 했을 때 사람들이 정말 싫어했음
    업계가 무엇이 달라졌다고 생각해서 이제는 “무언가를 하시는 것 같네요”를 사람들이 반길 거라 보는지 모르겠음
  • 최근 Show HN 이후 누군가가 내 ‘제품’을 자기 제품 쇼케이스 스타트업 사이트에 올려놨다는 이메일을 보냈음. 링크를 따라가 보니 내 오픈소스 프로젝트가 ChatGPT식 잡문으로 소개돼 있었음
    단순 집계 링크가 아니라 README를 다시 써서 ‘피치’까지 붙여놔서 침해당한 느낌이 들었음
  • notepad.exe, vim, pandoc, imagemagic, textedit.app, resolve, blender에서는 이상하게 이런 문제가 없음
    기술 업계 전체라기보다는 소비자용 앱의 문제일 수도 있음
  • 내 독점 문서를 읽어서는 안 되고, 이 소프트웨어를 쓰는 많은 사람이 제3자와 지식재산을 공유할 권한이 있을지도 의심스럽다는 부분은 거의 모두가 무시하는 거대한 책임 리스크임
    내 고용주는 이 문제가 제대로 해결될 때까지 지식재산에 AI를 쓰는 걸 금지했음. 실제로 유출을 신경 쓰기 때문임
    아마 2030년대 중반쯤 정보위원회가 이 모든 것이 GDPR을 준수하지 않는다는 지침을 내릴지도 모름

• AI 버전이 밋밋하고 형편없는 건 분명하지만, 더 중요하게는 메시지의 의미를 완전히 바꿔버렸음
  AI 버전은 사과하고, 수신자가 이 이메일을 어떤 것에 대한 “응답”으로 “약속받았다”고 암시하고, 바쁜 일정을 탓하고, 질문을 받겠다고 함
  원문에는 이런 내용이 없었고 암시조차 없었음. 이건 “다듬은” 버전이 아니라 그냥 완전히 다른 이메일임. 의미를 유지한 채 문체를 바꾸는 건 LLM이 잘할 수 있는 몇 안 되는 일이라고 생각했는데, 이 예시는 그 낮은 기준조차 통과하지 못함

  • AI가 직장 내 관계가 어때야 하는지에 대해 자기만의 이상한 생각을 갖고 있는 듯함
  • 맞음. 이건 주체성 생산이라고 부를 수 있음
    웃기려고 한 말이지 가르치려는 건 아니지만, 주체성 생산의 장치는 실제로 존재함
  • 예전에 매니저가 기업식 말투로 충분히 쓰지 않는다고 소리쳤던 일이 떠오름
  • 그냥 프롬프트 설계가 형편없는 것임

• 나를 아는 사람이 저 이메일을 받고 내가 납치됐다고 생각하지 않을 방법이 없음
  이 사람은 가짜 정체성을 내세우지 않는 걸 중요하게 여김. 꽤 멋진 태도지만, 소셜 미디어는 많은 사람이 환상을 보여주는 데 아무 거리낌이 없다는 걸 드러냈음
  사람들은 잘 쓴 글을 자기 재능과 노력의 산물처럼 내세우는 데 부끄러움이 없을 것임. 디지털 화장에는 한계가 없음

  • 가짜 정체성을 신경 쓰는 사람에게도 이건 여전히 나쁨. 소셜 미디어는 개성을 드러내고 주목을 끄는 데 달려 있음
    클릭을 극대화하려고 페르소나를 정교하게 만드는 것과, 밋밋하고 특징 없는 정체성으로 동일화되는 건 다름
  • 때로는 자의식 과잉인 사람들에게 보낼 전문적인 이메일을 공들여 쓰는 데 시간을 낭비하고 싶지 않음
    머릿속에서 나오는 대로 쓰고, 디지털 서기가 읽는 사람이 존중받고 인정받고 추켜세워진다고 느끼게 다시 써주길 바랄 수 있음. 그렇다면 내가 가짜 정체성을 내세우는 걸까? 전문성의 환상을 보여주는 걸까? 어쩌면 “Bye” 대신 “Best regards”를 쓰는 것 자체가 애초에 전문성의 가면일지도 모름
  • 요즘 모든 커뮤니케이션을 기본 흐름으로 LLM 필터에 던지는 일이 정상화되면서, 사람들이 꼭 자기 페르소나처럼 보이게 하려는 것만은 아닌 듯함
    복사해 붙여넣고 “텍스트 만들어줘” 버튼을 누르기만 하면 됨. 그걸 지적하고 따져 물으면, 그 환상을 자기 것처럼 넘기려는 시도까지 포함해 꽤 짜증 나면서도 우스운 답이 돌아올 것 같음
    예전에도 많은 사람이 글을 쓸 때 무엇을 전달하려는지, 자신이 어떻게 보이는지 깊이 생각하지 않았음. 지금도 마찬가지로 별로 깊이 생각하지 않고, LLM이 만든 결과를 의미 있게 검토하지 않은 채 보내는 경우가 많음
    물론 마음에 들지는 않음. 그래도 명료하게 말하려는 사람과 그렇지 않은 사람은 여전히 꽤 자주 구분됨. 다만 curl 프로젝트의 버그·보안 대응자처럼 새 패러다임에 과도하게 발목 잡히는 사람들은 안타까움
  • 큰 틀에서는 “AI”와 소셜 미디어 모두에서 문체, 주제, 행동이 일반화된 형태로 수렴하는 게 보임
    이는 “AI” 솔루션이 우리가 스스로 하던 일을 더 빠르게 하고 있다는 뜻처럼 느껴짐

• 최근에야 AI를 쓰기 시작했는데, 내가 쓰거나 거부하는 기준은 그 작업에 대한 감정에 달려 있다는 걸 알게 됨. 진정성이라는 논점이 정말 와닿음
  매니저라 고객에게 이메일을 보내거나 팀원과 이야기할 때는 깊이 신경 씀. 그래서 과하게 화려한 문장이 나올 수는 있지만, 그래도 그건 내 과하게 화려한 문장임
  반면 매주 진행해야 하는 회의가 하나 있는데, 컴플라이언스 증거를 남기기 위해서만 존재함. David Graeber가 썼을 법한 CIA 사보타주 현장 매뉴얼 같은 것임. 이제는 녹취를 ChatGPT에 올리고 증거용 항목 3개를 뽑아달라고 한 뒤, 아무도 읽지 않을 위키에 붙여넣는 30초짜리 작업이 됨

  • 이번 주에 내 글의 진정성에 대해 생각하다가, 왜 AI가 만든 코드는 받아서 커밋하는 데 문제가 없으면서 AI가 쓴 글을 내 글인 척하는 건 단순히 잘못된 정도가 아니라 의도적 표절 수준으로 비도덕적이라고 느끼는지 궁금했음
    분명한 차이를 느끼지만 이유는 명확하지 않음. AI가 쓴 글을 공유하는 건 괜찮지만, AI가 썼다고 명확히 밝힐 때만 괜찮음
    아마 다른 곳에서 코드를 복사해 와도 충분히 검증해서 기대한 대로만 동작한다면 괜찮지만, 인용문을 복사해 내 말처럼 쓰지는 않는 이유와 관련 있을 듯함. 내 말은 내 말임. 내 코드는 같은 보장을 갖지 않음
  • 나도 그렇게 함. 모든 이메일은 손으로 씀. 그 단어들 아래에는 내 이름이 붙기 때문임
    반대로 세무서에 특정 문서를 발급해달라고 요청하는 일이라면 AI에게 맡김
  • hemingway.app 같은 더 “멍청한” 도구에 대해서는 사람들이 어떻게 느끼는지 궁금함
    단순한 동의어를 제안하거나 너무 긴 문장을 강조하는 식으로 가독성에 대한 기계적 제안을 해주는 도구임. 중요하고 많은 사람이 읽을 문서를 쓸 때 써본 적이 있음
  • AI 혁명의 일부로 과하게 화려하고 무거운 문장을 없애줬으면 함
    “AI가 썼으니 간결하다”는 핑계를 댈 수 있음

• AI “다듬기” 도구는 본질적으로 역압축의 한 형태임. 간결하게 표현된 정보를 가져다가 격식과 군더더기로 불필요하게 부풀려 더 “전문적”처럼 보이게 함. 그러면서 메시지의 어조 같은 유용한 메타데이터는 버림
  수신자도 분명 어떤 형태의 AI 요약을 써서 그 추가된 “광택”을 모두 제거할 테니, 전체 과정이 완전히 중복된 일이 됨
  정말 부조리하게 느껴짐

  • AI는 동시에 두 산업을 만들었음. 하나는 AI로 문서를 부풀리는 산업이고, 다른 하나는 AI로 요약하는 산업임
    첫 번째가 더 부풀릴수록 두 번째가 더 필요해짐
    AI가 정말 지능적이라면, 생태계 안에서 자신이 필요해지도록 만드는 유기체 같아서 두려울 것임
  • 누군가가 애써 쓰지도 않은 걸 왜 읽어야 하나
  • 완전히 중복은 아님. 그래도 에너지 사용량과 주가 상승은 남음
    모두가 서로 직접 말하기에는 너무 불안해하기 때문에 벌어지는 일임
  • 예전 매니저는 AI로 고객에게 보낼 헛소리를 생성할 수 있다는 걸 정말 자랑스러워했음
    그 바보들이 실제로 증명하는 건 자신들이 쓸모없다는 사실이니, 그냥 내버려 두면 됨

• 개인적이고 독특한 말투와 글쓰기 방식이 있다고? 시민, 그건 잡문 기계로 다듬어 없애야겠음

  • 영어가 모국어가 아니라서 더 진지한 글을 쓸 때 Grammarly로 실수를 확인함. 하지만 제안이 들어오면 글의 어조가 너무 바뀌어서, 가짜로 억지스러운 태도를 가진 PR 대행사가 쓴 것처럼 들리고 밋밋하고 색이 없어짐
    그러니 사양함. 교과서적인 문장부호 실수만 고쳐주고, 장황하고 “충분히 긍정적이지 않은” 문장은 내게 맡겨두면 됨
  • 디스토피아를 하나 구상 중인데, 저항 세력이 텍스트 속 텍스트 스테가노그래피로 공조함
    그래서 다듬어지지 않은 커뮤니케이션은 추가 감시 대상으로 표시됨. 그런 문체 선택들 안에 뭔가가 숨어 있을 수 있기 때문임
  • 당신의 생각은 편의를 위해 .로 대체됩니다
  • AI에 대한 이상한 불평임. 이건 이미 AI 없이도 일어났고 지금도 일어남
    개인적이고 독특한 말투와 글쓰기 방식이 있다고? 이메일이 모두에게 안부를 전하길 바라게 될 거다, 기업 원숭이여
  • Newspeak

• Turboclippy 이전에도 디지털 문화는 충분히 가짜 같고, 수행적이고, 불성실했음
  날카로운 뭔가로 꺼져버렸으면 함
  온 세상이 “한 사람을 죽이면 살인이지만 백만 명을 죽이면 통계”라는 이념적 공리를 전제로 한 인사팀으로 변해가는 느낌임

  • 그건 모든 것이 극단으로 치달은 기업주의일 뿐임

• LLM이 변혁적이라고 생각하지만, 대부분의 제품 관리자들이 이렇게 상상력이 없다는 게 놀라움
  90년대에 사람들이 웹페이지에 GIF를 넣을 수 있다는 걸 발견하자 모든 페이지에 GIF가 백 개씩 들어가야 했던 시절이 떠오름. 촌스러웠고, 지금 대부분의 내장형 AI도 마찬가지임

  • 지뢰도 변혁적이긴 함

• 예전에 SIRI에게 틀고 싶은 앨범 이름이 기억나지 않아서 계속 엉뚱한 걸 틀게 됐음
  다섯 번째쯤에 “Siri, 너 때문에 죽겠다”라고 했더니 911에 전화했음
  미래는 형편없음

  • 스마트폰에게 스와팅당하는 건 Black Mirror 에피소드 같음
  • 여러 번 실패한 뒤에도 그 정도로 순하게 말하다니 엄청나게 예의 바른 사람임
    나는 chatGPT에 훨씬 더 빨리 욕을 중얼거림. AI 유발 분노가 하나의 현상이 될 것 같음. 다만 그게 사람을 대하는 방식에 역으로 영향을 주기 시작하지 않길 바람
  • 사실 꽤 괜찮음. 문자 그대로 받아들이고 진지하게 처리한 것임
    기계가 미묘한 뉘앙스를 이해하고 편한 친구처럼 반응하길 기대한 건가? AI가 100% 진지한 건 괜찮음

• 실제로 LLM을 써서 MacWhisper[0]의 받아쓰기 결과를 내가 채팅에서 쓰는 방식에 맞게 덜 다듬어진 형태로 바꿈. MacWhisper는 전사 결과를 자동 후처리할 프롬프트를 설정할 수 있음
  내 프롬프트는 전문 교정자·편집자로서 받아쓰기를 채팅용으로 쓸 수 있게 더 캐주얼한 대문자 사용과 문장부호로 다시 쓰라는 내용임. “I”와 “I’m” 같은 파생어는 항상 대문자로 쓰고, 문장은 “I”로 시작하지 않는 한 소문자로 시작하며, 명시적으로 말한 문장부호는 실제 문장부호로 바꾸고, 메시지 끝에는 마침표를 붙이지 않되 문장 사이 마침표는 유지하고, 쉼표는 제거하지 않으며, 어려운 단어를 더 흔한 단어로 바꾸지 말라고 지시함. 결과만 반환하고 편집 설명이나 코멘트는 추가하지 말라고 함
  [0]: https://goodsnooze.gumroad.com/l/macwhisper

  • Windows에 해당하는 대체재가 있는지 궁금함. MacWhisper만큼 잘 만든 걸 찾지 못하겠음