그냥 그렇게 말하면 됩니다

• AI 시대에 인간의 가치를 옹호하는 논리가 대부분 인간-AI 능력 격차에 기대고 있으나, 이 격차가 좁아지면서 논리 자체의 토대가 흔들림
• "인간은 고품질 결과물을 낼 때 가치 있다"는 결론은 특정 시점 모델의 벤치마크 점수에 종속되어 미래에 유지될지 불확실함
• 조건을 다는 대신 "인간은 소중하다"는 확고한 명제를 그대로 선언하는 편이 견고함
• 창작물의 질은 의도와 형식 두 요소로 나뉘며, 가치 논의가 의도를 간과한 채 형식에 치우쳐 있음
• 생성형 AI의 문제점은 명확한 의도 없이 형식만 너무 쉽게 만들어내는 데 있으며, 수작업에서는 발생하기 어려운 실수임

---

• 인간과 인간의 창작물의 가치를 평가하는 데에는 다소 기묘한 논리들이 존재함

  "인공지능 시대에도 특정 역할에는 여전히 인간이 적합함. 그 이유는 인공지능이 그 역할에 필요한 작업을 결코 수행할 수 없기 때문 또는 인간이 적어도 더 잘 해낼 수 있음"
  "인간과 인공지능의 결과물이 비슷해 보일지라도, 인공지능이 재현할 수 없는 미묘한 스타일적 차이 때문에 인간의 결과물이 더 우수함. 적어도 인공지능은 그러한 스타일을 일관되게 재현할 수 없음"

  • 골대 밑부분에 끊임없는 움직임으로 인해 생긴 긁힘 자국을 생각해 볼 것. 콘크리트가 완전히 굳는 데는 28일이 걸림
• 이러한 사고방식은 결국 "인간은 고품질의 결과물을 만들어낼 때 가치가 있다"는 결론으로 ​​귀결됨
• 이 주장은 현재 존재하지만 점차 좁아지고 있는 인간과 AI 간의 능력 격차에 위험하게 의존함
• 과거(2023년 당시의 ChatGPT)에는 분명히 그 격차가 존재했고, 지금도 여전히 존재할 수 있음. 하지만 미래에도 그 격차가 유지될지는 알 수 없음

대신 생각해 볼 것

"인간은 소중하다."

• 그냥 이렇게 말해도 됨. 본인도 인간이기에 그렇게 하기를 권함. 굳이 설명을 덧붙일 필요도 없음
• 이 말은 특정 시점의 최첨단 모델이 최근 벤치마크에서 얻은 점수에 좌우되지 않는, 확고하고 확실한 명제임

"품질"의 특징

• 창작물의 질은 어떻게 측정할까?
  • "효과적인가요? 의도한 바를 달성했나요 ?"
• 이 질문은 품질의 두 가지 하위 요소, 즉 의도와 형식이라는 두 가지 측면을 내포함
• 창작물의 가치에 대한 많은 논의들이 의도를 간과한 채 형식에 지나치게 초점을 맞추는 경향이 있는 것 같음

• 창조는 의도를 형태로 응축하는 과정
• 의도는 대개 결과물의 형태에 불가분하게 내재되어 있음
• 인간은 머릿속에 있는 이미지와 충분히 일치할 때까지 반복적으로 (때로는 매우 공들여) 자신의 창조물을 다듬고 재구성함
• 생성형 인공지능의 특이한 점은 최소한의 의도만으로도 실질적인 형태를 만들어낼 수 있다는 것
• 인간은 자신이 무엇을 달성하려는지에 대한 명확하지 않은 정신적 모델을 가지고 작업에 임할 수 있지만, 인공지능은 그럼에도 불구하고 무언가를 만들어낼 수 있음

  "상사에게 보낼 사직서를 써줘." "음… 그럴듯하네."

• 어쩌면 "AI 슬롭(AI slop)"이라는 표현은 형식에 담긴 의도를 파악하기 어렵다는 것을 나타내는 것일지도 모름
• 그런 정의에 따르면 인간 역시 슬롭을 만들어낼 수 있음
• 생성형 AI는 단지 의도 없는(intentless) 형식(form)을 만들어내는 진입 장벽을 낮췄을 뿐
• 의도는 프롬프트에 담겨 있다고 할 수 있으며, 산문 텍스트의 경우엔 잘 만들어진 프롬프트는 이미 의도된 형식(intended form) 에 가깝다고 볼 수 있음
• 최근 인간 소통을 중재하기 위해 LLM을 사용하는 것에 대한 논의에서 친구 톰 허드슨이 말하길

  "LLM을 이용해서 이메일을 쓰려면 차라리 프롬프트를 보내주는 게 훨씬 낫겠어. 그러면 네가 실제로 무슨 말을 하려고 했는지 알 수 있을 테니까."

• 생성형 인공지능의 문제점은 명확한 의도 없이도 형태가 너무 쉽게 나타난다는 점임. 이러한 실수는 수작업으로 만들 때는 발생하기 어려움

[GN⁺]

Hacker News 의견들

• 저자의 친구가 한 이 문장이 정말 와닿았음: “LLM으로 내게 이메일을 쓸 거라면 차라리 프롬프트를 보내줘. 적어도 네가 실제로 무슨 말을 하려 했는지는 알 수 있으니까”
  소통에 약간의 예의와 전문성을 더하는 게 무의미하다는 뜻은 아님. 다만 전달하려는 핵심은 프롬프트에 있고, 거기에 머리말과 서명만 붙이면 된다고 봄
  우리는 인간으로 대화하는 동시에 직접 소통하는 것이기도 함. 누가 AI 답변을 보내오면 진정성이 없어 보여서인지 조금 모욕적으로 느껴짐

  • 프롬프트로 만들어 보낸 모든 것은 당신 자신이 아님
    사람이 쓰지 않은 글을 읽어야 한다면 보낸 사람을 “Claude”나 “gpt-5” 같은 것으로 바꾸고, 의미 있는 입력을 한 척하지 않는 편이 낫다
    AI 도움을 받을 수는 있지만, 그건 명확히 표시된 첨부물이어야 하고 본문은 인간이 써야 한다고 봄. PR 설명도 마찬가지로 AI 생성 내용은 별도 영역에 두고, 나머지는 사람이 의도를 분명히 적어야 함
    그런데 지금은 AI가 인간인 척하는 세상이고, 점점 더 나빠지고 있음
  • 그 감정에는 동의하지 않음. 프롬프트는 말하고자 한 내용 자체가 아니라, 생각하고 단어를 고르는 사적인 행위의 일부임
    실제로 보낸 것이 말하고자 한 내용임. 생각과 말 사이의 구분은 늘 중요했고, 상대가 보내지 않기로 한 사적 생각에 직접 접근해야 한다는 발상은 잘못됐다고 봄
    편지를 받고 “진짜 의도”를 보겠다며 사적인 노트를 요구하는 것과 비슷함. 대부분의 소통에는 협상과 설득이 섞여 있고, 생각은 본질적으로 사적임
    다만 AI 생성 이메일은 쓰는 데 드는 시간·노력과 읽는 데 드는 시간·노력의 균형을 바꾸므로, 그 우려는 타당함
  • “프롬프트만 보내라”는 말은 문자 그대로 뜻하는 건 아닐 가능성이 큼. 상사가 솔직한 피드백을 달라고 해도 그대로 쏟아내면 커리어에 해롭다는 것과 비슷함
    사람은 세상을 인식하는 방식에서 미묘한 실수를 하고, 상대도 비슷한 실수를 하므로 예의라는 구조적 규칙이 그 피해를 줄여줌
    AI는 프롬프트 내용을 더 많은 말로 다시 쓰는 것뿐이라 밋밋할 수는 있지만, 날것의 프롬프트를 보내는 것보다는 평균적으로 나을 듯함. 친구가 진짜 원하는 건 “짧은 프롬프트보다 더 많은 시간을 들여 나와 소통해 달라”는 뜻으로 보임
  • 친구나 동료에게는 그렇지만, 일상적인 비즈니스 처리에는 LLM이 큰 지름길이 됨
    반품하려는 Amazon 주문 3개와 각각의 이유를 알려주고 세부 사항을 찾아 보증 서비스 요청 이메일을 만들게 했더니, 빠르게 검토하고 복사해 보내서 15분 걸릴 일을 5분에 끝냈음
    반복되면 차이가 커짐. 다만 언제 지름길을 쓰면 안 되는지는 알아야 함. 좋은 날에는 야크 털을 깎는 240볼트 이발기 같은 도구임
  • AI 이메일이라고 하면 제안서처럼 여러 사람에게 보내는 긴 공식 문서를 말하는 줄 알았고, 개인적인 1:1 메시지까지 포함된다는 건 의외임
    LLM이 보편화되기 직전에 은퇴해서 직접 겪어보진 못했지만, 동료·동급자·친구 사이의 1:1 또는 1:2 이메일은 원래도 최대한 짧고 직접적이었음
    LLM이 오늘날 만들어낼 법한 길이와 구조의 이메일은 LLM 이전에도 꽤 이상하게 보였을 것임

• 지금까지 읽은 AI 쓰레기 콘텐츠 정의 중 최고였고, 글 자체도 그 반대였음. 짧지만 모든 단어가 의미 있었음
  크면서도 근본적인 동기나 이해가 빠진 결과물이 AI 쓰레기를 만드는 것이지, AI 사용 자체가 원인은 아님
  이 구분 덕분에 AI 자체가 아니라 지속적인 오용을 탓할 수 있는 사고 모델이 생김. AI 보조 코딩에서도 계속 방향을 잡아주는 일이 왜 중요한지 설명해 줌
  제공한 프롬프트들의 합이 소프트웨어 의도에 대한 응집력 있는 관점을 이룬다면, 좋은 코드를 생성할 씨앗과 명세가 됨. 반대로 “안 됨, 다시 해” 같은 짧은 프롬프트만 모아 보면 무엇이 나오는지 알 수 있음

  • 동의함. 최근 반AI 수사에 답답했던 건 전제가 완전히 틀려서가 아니라 너무 포괄적이기 때문임
    음식과 물에 들어간 “화학물질”을 불평하는 사람들처럼 들리기 시작했음
    실제 불만은 AI와 그 사용 방식의 특정 측면에 관한 것이고, 이 글은 그중 하나를 아주 잘 표현함. 그래서 실제로 논의하고 다룰 수 있음
  • “의도에 대한 응집력 있는 프롬프트 묶음”과 “안 됨, 다시 해” 같은 짧은 프롬프트를 대비한 의도가 무엇인지 잘 모르겠음. 두 종류의 프롬프트 모두 가치가 있다고 봄
  • Hank Green의 쓰레기 콘텐츠 정의도 참고할 만함: https://youtu.be/dT5IJExTUR4?si=mjkHK024MUqCId0k
    요약하면 꽤 비슷함. 기능적으로 중요한 변수는 의도와 정성임. 인간도 AI 없이 쓰레기 콘텐츠를 만들 수 있고, AI로 예술을 만들 수도 있음. AI는 다만 쓰레기 콘텐츠를 산업 규모로 가능하게 함

• 너무 많은 사람이 “사회에 대한 기여”를 기준으로 타인을 비인간화하는 데 큰 에너지를 써왔음
  취업하지 않았으면 의료보험을 받을 자격이 없다는 식의 생각들임. AI가 사람의 가치가 노동 산출물에 묶여 있는지 다시 생각하게 만들 수 있기를 바람

  • 그보다 더 나아감. 여기에는 계급주의가 깔려 있음. 특권적 위치 덕분에 실제 노동 산출이 상대적으로 적은 부유층의 가치는 의심하지 않는다는 뜻이 되기 때문임
    예컨대 실직자는 커리어 동안 실질적 문제를 해결하며 어떤 VC보다 100배 더 생산적이었을 수도 있음. 반면 그 VC는 스타트업에서 운이 좋아 성공한 뒤 10년 동안 몇몇 이사회에 앉아 지냈을 수 있음
  • 세상에는 헛일자리가 너무 많음. 나도 그중 하나를 하고 있음
    시간이 있고 마음이 열려 있어서 하루에 진심 어린 대화를 몇 번 나누는 노숙자가 지금의 나보다 사회에 더 큰 가치를 주고 있을지도 모름
  • AI는 “사회에 대한 기여”를 더 강한 기준으로 만들고, 영구적인 불필요 계층을 만드는 데 도움을 줄 가능성이 큼
  • 왜 그렇게 될지 모르겠음. 그런 재고는 언제나 가능했지만 실제로 일어나지 않았음
  • 더 나빠질 것임. 사람 대신 컴퓨터와 대화하도록 강요받는 상황이 훨씬 늘어날 것임

• C.S. Lewis의 문장은 성 바울에 비견할 만큼 훌륭하다고 봄: “평범한 사람은 없다. 당신은 단순한 필멸자와 이야기한 적이 없다. 국가, 문화, 예술, 문명은 필멸하지만, 그 생명은 우리의 생명에 비하면 하루살이와 같다. 우리가 농담하고, 함께 일하고, 결혼하고, 무시하고, 착취하는 대상은 불멸자들이다. 불멸의 공포이거나 영원한 영광이다. 그렇다고 우리가 늘 엄숙해야 한다는 뜻은 아니다. 우리는 놀아야 한다. 그러나 우리의 즐거움은 처음부터 서로를 진지하게 대하는 사람들 사이에 존재하는 종류여야 한다. 경박함도, 우월감도, 섣부른 단정도 없이”
  어렵다. 가장 높은 이상은 원래 그렇다
  딸깍거리는 기계들은 아주 큰 기계 정령일 뿐이니, 그렇게 대하면 됨

  • 사람은 필멸함. C.S. Lewis도 60년도 더 전에 죽었음

• “인간은 가치 있다”라고 그냥 말할 수 있다는 문장에 대해, 실제로는 그렇게 못 함
  CEO들은 그 말을 들으면 몸서리칠 것임. 아마 언젠가 인간이었던 시절의 잔재일지 모름. 그들에게 사람은 “낮은 가치의 인적 자본”, 가축, 표의 숫자임
  https://fortune.com/2026/05/26/standard-chartered-ceo-bill-w...

  • 그렇게 말하면 정부가 극단주의자로 낙인찍을 것임

• 놀라웠음. 최근 약간의 정체성 위기를 겪고 있었음
  스스로 열정 있고 나쁘지 않은 개발자라는 건 알지만, AI 이야기가 쏟아지면서 이게 나에게 한 시대의 끝인지 이해하기 어려웠음
  그런데 이 글을 읽는 중 뭔가 맞아떨어졌고, 정말 말이 된다고 느꼈음. 마음이 훨씬 나아졌음

  • 이 인용문이 매우 관련 있다고 봄. 초보자는 아니겠지만, 여기서 핵심은 취향이라고 생각함
    인간은 중요하고, 인간의 취향은 대체될 수 없음. 아직은? 아예? 애초에 왜 대체하고 싶어 하는가?
    https://www.goodreads.com/quotes/309485-nobody-tells-this-to...
  • 지난 몇 달 동안 나도 꽤 신경 쓰였음. 혼자가 아님

• 봇이나 LLM 훨씬 이전부터 이메일을 쓸 때 대부분의 경우 맨 위에 “요약”, 그다음 “상세”를 두도록 스스로 훈련했음
  예: “요약: 내일 정오 점심에 브라우니 한 더즌 가져올 수 있어?”
  “상세: 디저트 계획이 틀어졌고, 네 브라우니가 제일 맛있고, 너는 내게 빚이 있고…”
  이 구조는 해방감을 줌. 정당화가 필요하면 사람들이 계속 읽을 거라는 걸 알기에 원하는 것과 필요한 것을 짧고 때로는 퉁명스럽게 정리할 수 있음
  동시에 내가 원하는 것이 무엇인지 명확히 하게 해줌. 다만 수신자보다 조직 내 위치가 너무 낮다면 적절하지 않을 수 있음

• AI 능력과 무관하게 가치를 유지할 인간 산출물의 범주가 있음: 예술과 스포츠임
  사람들은 창작자를 중요하게 여김. 출처가 작품, 경외감, 감정적 반응을 규정함
  하지만 그 바깥의 거의 모든 산출물은 AI 대체 위험에 놓여 있음. 기업은 이익을 최적화하는 비도덕적 실체이고, 필요한 만큼만 법을 따름
  법은 우리의 집단행동임. 우리는 사회적으로 무엇을 가치 있게 여길지 구성함. 기계가 할 수 있는 일을 하며 주 5일 노동을 지키기 위해 싸울 수도 있지만, 나는 기계의 공동 소유를 위해 싸우는 편이 낫다고 봄

  • 스포츠는 모르겠지만, 예술에 대해서는 한 가지 일화가 있음
    친구가 AI로 만든 노래를 공유했는데 품질에 놀랐음. 제작자가 Suno만 썼다고 밝혀서 궁금해졌고, 프로 요금제를 결제한 뒤 아내와 듣고 싶은 노래를 떠올리며 꽤 즐겼음
    우리 둘 다 만들 수 없는 노래였지만, 떠올려내는 과정은 진짜 재미있었음. “만들었다”고는 하지 않겠음. 우리가 만든 건 아니니까. 아내는 지금도 차에서 꽤 자주 듣고, 새 음악이 듣고 싶으면 더 떠올려내면 됨
    이것이 인간이 만든 음악을 학습 데이터로 삼았기 때문에 가능하다는 건 알고 있음. 도덕성이나 합법성에 대해 말하려는 건 아니지만 논의할 만한 주제임. 다만 실제로 AI 음악을 좋아하는 사람도 있다는 점을 말하고 싶음
    어쩌면 내가 바로 Huxley의 “Brave New World”가 경고한 그런 순진한 소비자일 수도 있음
  • 대형 기술 기업들이 모델과 가중치를 공개하도록 강제할 수 있다면 좋겠음. 근본적으로 인류의 집단 노동 위에 만들어진 산물이기 때문이고, 그중 일부는 GPL이나 CC-BY-SA로 라이선스된 것임
    버튼 하나로 저작권과 지식재산이라는 개념을 없앨 수 있다면 그렇게 하겠음
    https://en.wikipedia.org/wiki/Free-culture_movement
  • 그 영역 밖의 거의 모든 산출물이 AI 대체 위험에 있다는 데 꼭 반대하지는 않지만, 그 안에도 의도, 의사결정, 소통이라는 형태의 예술이 많이 있다고 봄
    다만 그 가치가 정말로 보는 사람과 상황에 달려 있다는 점은 인정함
  • 서비스직은 다른 분야보다 오래 남을 수 있음. 서비스 노동이 제공하는 가치의 일부는 인간적 연결이기 때문임
    하지만 우리의 정신과 몸이 기계가 못 하는 일을 더 이상 할 수 없게 되면, 팔 수 있는 것은 인간성뿐이라는 데 동의함
  • 예술은 이미 오늘날 AI로 인해 가치가 낮아지고 있음. Banksy는 괜찮겠지만, 경계선에 있는 예술가들은 생성 AI와 경쟁하고 있음

• “인간은 가치 있다”는 문장은 사실 효용에 조건부로 달려 있음
  원글 작성자가 AI 때문에 일자리를 못 얻고 시장 가치가 0이 된 사람에게 와서 돈을 줄 것은 아님
  그래서 “인간은 본질적으로 가치 있다”는 말은 인간이 평가절하되는 와중에 건네는 의미 없는 위로일 뿐임

  • 타인을 시장 가치로 판단하는 사람들이 없다면 사회는 분명 더 나아질 것임
  • 힘든 인간을 도울 안전망이 있으면 좋겠음. 수조 달러 기업들이 사상 최고 수익을 내는 동안 말임
    하지만 그건 너무 “사회주의”이거나 무시무시한 공산주의로 취급됨

• 우리의 삶은 경험들의 큰 모음일 뿐임. 삶에서 실제로 중요한 시간은 다른 사람들과 보내는 벽시계의 분들임
  이 시간들이 문자 그대로 우리가 가진 전부이고, 다음 1분은 죽을 때 잃는 유일한 것임
  기계와 대화하는 것은 식탁에 음식을 올리기 위해 어쩔 수 없이 하는 일일 뿐임. 기계와 대화한 시간은 기억에 남지 않고, 가치가 없기 때문에 기억할 만하지도 않음

  • 출시 당시 Need For Speed Underground 2를 안 해본 모양임. 그건 내가 겪은 인간 상호작용의 99%보다 나았음