▲

그냥 말하면 된다

 (noperator.dev)
1P by GN⁺ | ★ favorite | 댓글 1개
  • 인간의 가치를 창작물이나 업무 산출물의 품질로 평가하면, AI와 인간의 능력 격차에 인간 존엄을 걸게 되어 위험함
  • 인간 선호 논리는 AI가 못 하거나 인간이 더 잘한다는 전제에 기대지만, 현재와 미래의 프런티어 모델에도 유지될지는 불확실함
  • 창작물의 품질은 의도한 일을 수행하는지로 판단할 수 있으며, 이때 의도와 물질적 형식을 함께 봐야 함
  • 생성형 AI는 최소한의 의도만으로도 그럴듯한 형식을 만들 수 있어, AI slop처럼 형식 뒤의 의도가 흐려지기 쉬움
  • 더 단단한 기준은 “인간은 가치 있다”이며, 인간의 존엄성은 능력이나 벤치마크 점수에 의존하지 않음

인간 가치와 AI 능력 격차

  • 인간의 가치를 창작물이나 업무 산출물의 품질로 평가하는 방식은 AI와 인간 사이의 능력 격차에 의존해 불안정함
  • AI 시대에도 인간을 선호해야 한다는 논리는 보통 AI가 어떤 역할을 절대 수행할 수 없거나, 인간이 더 잘하거나, 인간 산출물에 AI가 재현하지 못하는 미묘한 스타일이 있다는 전제에 놓임
  • 이런 논리는 2023년 무렵 ChatGPT 같은 과거 모델에서는 더 설득력 있었을 수 있지만, 현재와 미래의 모델에도 계속 성립할지는 확실하지 않음
  • 더 단단한 기준은 “인간은 가치 있다”이며, 이는 최신 프런티어 모델의 특정 벤치마크 점수 같은 시점 의존 조건에 묶이지 않음
  • Magnifica Humanitas, §50는 “인간의 존엄성은 사람의 능력에 의존하지 않는다”는 문장으로 같은 방향을 뒷받침함

창작물의 품질, 의도, 형식

  • 창작물의 품질은 그것이 효과적인지, 의도한 일을 수행하는지로 판단할 수 있으며, 여기에는 의도와 물질적 형식이라는 두 요소가 있음
  • 많은 창작물 가치 논의는 형식에 지나치게 집중하고 의도를 상대적으로 덜 다룸
  • 창작은 의도를 형식으로 증류하는 과정이며, 인간은 마음속 이미지에 충분히 가까워질 때까지 창작물을 반복적으로 다듬음
  • 생성형 AI의 특이점은 최소한의 의도만으로도 상당한 형식을 만들어낼 수 있다는 데 있음
  • “상사에게 보낼 사직서를 써줘” 같은 요청에서도 인간의 목적이 불명확한 채로 AI가 그럴듯한 결과를 만들어낼 수 있음
  • AI slop은 형식 뒤의 의도를 식별하기 어려울 때 쓰기 좋은 개념일 수 있음
  • 인간도 의도 없는 형식을 만들 수 있지만, 생성형 AI는 그런 형식을 만드는 진입 장벽을 낮췄음
  • intentless form은 의도 없는 형식 문제를 다루는 연결 자료임
  • 산문에서는 잘 다듬어진 프롬프트가 이미 의도한 형식에 가까울 수 있음
  • LLM으로 인간 커뮤니케이션을 중재하는 문제와 관련해, Tom Hudson은 LLM으로 이메일을 쓸 거라면 차라리 프롬프트를 보내는 편이 실제로 무슨 말을 하려 했는지 알 수 있어 낫다고 봄
  • 생성형 AI의 병리는 식별 가능한 의도 없이도 너무 쉽게 상당한 형식을 허용한다는 데 있으며, 손으로 직접 만들 때는 이런 실수가 더 어렵게 발생함

함께 보면 좋은 글 β

▲
GN⁺   [-]
Hacker News 의견들

  • 저자의 친구가 한 이 문장이 정말 와닿았음: “LLM으로 내게 이메일을 쓸 거라면 차라리 프롬프트를 보내줘. 적어도 네가 실제로 무슨 말을 하려 했는지는 알 수 있으니까”
    소통에 약간의 예의와 전문성을 더하는 게 무의미하다는 뜻은 아님. 다만 전달하려는 핵심은 프롬프트에 있고, 거기에 머리말과 서명만 붙이면 된다고 봄
    우리는 인간으로 대화하는 동시에 직접 소통하는 것이기도 함. 누가 AI 답변을 보내오면 진정성이 없어 보여서인지 조금 모욕적으로 느껴짐

    • 프롬프트로 만들어 보낸 모든 것은 당신 자신이 아님
      사람이 쓰지 않은 글을 읽어야 한다면 보낸 사람을 “Claude”나 “gpt-5” 같은 것으로 바꾸고, 의미 있는 입력을 한 척하지 않는 편이 낫다
      AI 도움을 받을 수는 있지만, 그건 명확히 표시된 첨부물이어야 하고 본문은 인간이 써야 한다고 봄. PR 설명도 마찬가지로 AI 생성 내용은 별도 영역에 두고, 나머지는 사람이 의도를 분명히 적어야 함
      그런데 지금은 AI가 인간인 척하는 세상이고, 점점 더 나빠지고 있음
    • 그 감정에는 동의하지 않음. 프롬프트는 말하고자 한 내용 자체가 아니라, 생각하고 단어를 고르는 사적인 행위의 일부임
      실제로 보낸 것이 말하고자 한 내용임. 생각과 말 사이의 구분은 늘 중요했고, 상대가 보내지 않기로 한 사적 생각에 직접 접근해야 한다는 발상은 잘못됐다고 봄
      편지를 받고 “진짜 의도”를 보겠다며 사적인 노트를 요구하는 것과 비슷함. 대부분의 소통에는 협상과 설득이 섞여 있고, 생각은 본질적으로 사적임
      다만 AI 생성 이메일은 쓰는 데 드는 시간·노력과 읽는 데 드는 시간·노력의 균형을 바꾸므로, 그 우려는 타당함
    • “프롬프트만 보내라”는 말은 문자 그대로 뜻하는 건 아닐 가능성이 큼. 상사가 솔직한 피드백을 달라고 해도 그대로 쏟아내면 커리어에 해롭다는 것과 비슷함
      사람은 세상을 인식하는 방식에서 미묘한 실수를 하고, 상대도 비슷한 실수를 하므로 예의라는 구조적 규칙이 그 피해를 줄여줌
      AI는 프롬프트 내용을 더 많은 말로 다시 쓰는 것뿐이라 밋밋할 수는 있지만, 날것의 프롬프트를 보내는 것보다는 평균적으로 나을 듯함. 친구가 진짜 원하는 건 “짧은 프롬프트보다 더 많은 시간을 들여 나와 소통해 달라”는 뜻으로 보임
    • 친구나 동료에게는 그렇지만, 일상적인 비즈니스 처리에는 LLM이 큰 지름길이 됨
      반품하려는 Amazon 주문 3개와 각각의 이유를 알려주고 세부 사항을 찾아 보증 서비스 요청 이메일을 만들게 했더니, 빠르게 검토하고 복사해 보내서 15분 걸릴 일을 5분에 끝냈음
      반복되면 차이가 커짐. 다만 언제 지름길을 쓰면 안 되는지는 알아야 함. 좋은 날에는 야크 털을 깎는 240볼트 이발기 같은 도구임
    • AI 이메일이라고 하면 제안서처럼 여러 사람에게 보내는 긴 공식 문서를 말하는 줄 알았고, 개인적인 1:1 메시지까지 포함된다는 건 의외임
      LLM이 보편화되기 직전에 은퇴해서 직접 겪어보진 못했지만, 동료·동급자·친구 사이의 1:1 또는 1:2 이메일은 원래도 최대한 짧고 직접적이었음
      LLM이 오늘날 만들어낼 법한 길이와 구조의 이메일은 LLM 이전에도 꽤 이상하게 보였을 것임

  • 지금까지 읽은 AI 쓰레기 콘텐츠 정의 중 최고였고, 글 자체도 그 반대였음. 짧지만 모든 단어가 의미 있었음
    크면서도 근본적인 동기나 이해가 빠진 결과물이 AI 쓰레기를 만드는 것이지, AI 사용 자체가 원인은 아님
    이 구분 덕분에 AI 자체가 아니라 지속적인 오용을 탓할 수 있는 사고 모델이 생김. AI 보조 코딩에서도 계속 방향을 잡아주는 일이 왜 중요한지 설명해 줌
    제공한 프롬프트들의 합이 소프트웨어 의도에 대한 응집력 있는 관점을 이룬다면, 좋은 코드를 생성할 씨앗과 명세가 됨. 반대로 “안 됨, 다시 해” 같은 짧은 프롬프트만 모아 보면 무엇이 나오는지 알 수 있음

    • 동의함. 최근 반AI 수사에 답답했던 건 전제가 완전히 틀려서가 아니라 너무 포괄적이기 때문임
      음식과 물에 들어간 “화학물질”을 불평하는 사람들처럼 들리기 시작했음
      실제 불만은 AI와 그 사용 방식의 특정 측면에 관한 것이고, 이 글은 그중 하나를 아주 잘 표현함. 그래서 실제로 논의하고 다룰 수 있음
    • “의도에 대한 응집력 있는 프롬프트 묶음”과 “안 됨, 다시 해” 같은 짧은 프롬프트를 대비한 의도가 무엇인지 잘 모르겠음. 두 종류의 프롬프트 모두 가치가 있다고 봄
    • Hank Green의 쓰레기 콘텐츠 정의도 참고할 만함: https://youtu.be/dT5IJExTUR4?si=mjkHK024MUqCId0k
      요약하면 꽤 비슷함. 기능적으로 중요한 변수는 의도와 정성임. 인간도 AI 없이 쓰레기 콘텐츠를 만들 수 있고, AI로 예술을 만들 수도 있음. AI는 다만 쓰레기 콘텐츠를 산업 규모로 가능하게 함

  • 너무 많은 사람이 “사회에 대한 기여”를 기준으로 타인을 비인간화하는 데 큰 에너지를 써왔음
    취업하지 않았으면 의료보험을 받을 자격이 없다는 식의 생각들임. AI가 사람의 가치가 노동 산출물에 묶여 있는지 다시 생각하게 만들 수 있기를 바람

    • 그보다 더 나아감. 여기에는 계급주의가 깔려 있음. 특권적 위치 덕분에 실제 노동 산출이 상대적으로 적은 부유층의 가치는 의심하지 않는다는 뜻이 되기 때문임
      예컨대 실직자는 커리어 동안 실질적 문제를 해결하며 어떤 VC보다 100배 더 생산적이었을 수도 있음. 반면 그 VC는 스타트업에서 운이 좋아 성공한 뒤 10년 동안 몇몇 이사회에 앉아 지냈을 수 있음
    • 세상에는 헛일자리가 너무 많음. 나도 그중 하나를 하고 있음
      시간이 있고 마음이 열려 있어서 하루에 진심 어린 대화를 몇 번 나누는 노숙자가 지금의 나보다 사회에 더 큰 가치를 주고 있을지도 모름
    • AI는 “사회에 대한 기여”를 더 강한 기준으로 만들고, 영구적인 불필요 계층을 만드는 데 도움을 줄 가능성이 큼
    • 왜 그렇게 될지 모르겠음. 그런 재고는 언제나 가능했지만 실제로 일어나지 않았음
    • 더 나빠질 것임. 사람 대신 컴퓨터와 대화하도록 강요받는 상황이 훨씬 늘어날 것임

  • C.S. Lewis의 문장은 성 바울에 비견할 만큼 훌륭하다고 봄: “평범한 사람은 없다. 당신은 단순한 필멸자와 이야기한 적이 없다. 국가, 문화, 예술, 문명은 필멸하지만, 그 생명은 우리의 생명에 비하면 하루살이와 같다. 우리가 농담하고, 함께 일하고, 결혼하고, 무시하고, 착취하는 대상은 불멸자들이다. 불멸의 공포이거나 영원한 영광이다. 그렇다고 우리가 늘 엄숙해야 한다는 뜻은 아니다. 우리는 놀아야 한다. 그러나 우리의 즐거움은 처음부터 서로를 진지하게 대하는 사람들 사이에 존재하는 종류여야 한다. 경박함도, 우월감도, 섣부른 단정도 없이”
    어렵다. 가장 높은 이상은 원래 그렇다
    딸깍거리는 기계들은 아주 큰 기계 정령일 뿐이니, 그렇게 대하면 됨

    • 사람은 필멸함. C.S. Lewis도 60년도 더 전에 죽었음

  • “인간은 가치 있다”라고 그냥 말할 수 있다는 문장에 대해, 실제로는 그렇게 못 함
    CEO들은 그 말을 들으면 몸서리칠 것임. 아마 언젠가 인간이었던 시절의 잔재일지 모름. 그들에게 사람은 “낮은 가치의 인적 자본”, 가축, 표의 숫자임
    https://fortune.com/2026/05/26/standard-chartered-ceo-bill-w...

    • 그렇게 말하면 정부가 극단주의자로 낙인찍을 것임

  • 놀라웠음. 최근 약간의 정체성 위기를 겪고 있었음
    스스로 열정 있고 나쁘지 않은 개발자라는 건 알지만, AI 이야기가 쏟아지면서 이게 나에게 한 시대의 끝인지 이해하기 어려웠음
    그런데 이 글을 읽는 중 뭔가 맞아떨어졌고, 정말 말이 된다고 느꼈음. 마음이 훨씬 나아졌음

    • 이 인용문이 매우 관련 있다고 봄. 초보자는 아니겠지만, 여기서 핵심은 취향이라고 생각함
      인간은 중요하고, 인간의 취향은 대체될 수 없음. 아직은? 아예? 애초에 왜 대체하고 싶어 하는가?
      https://www.goodreads.com/quotes/309485-nobody-tells-this-to...
    • 지난 몇 달 동안 나도 꽤 신경 쓰였음. 혼자가 아님

  • 봇이나 LLM 훨씬 이전부터 이메일을 쓸 때 대부분의 경우 맨 위에 “요약”, 그다음 “상세”를 두도록 스스로 훈련했음
    예: “요약: 내일 정오 점심에 브라우니 한 더즌 가져올 수 있어?”
    “상세: 디저트 계획이 틀어졌고, 네 브라우니가 제일 맛있고, 너는 내게 빚이 있고…”
    이 구조는 해방감을 줌. 정당화가 필요하면 사람들이 계속 읽을 거라는 걸 알기에 원하는 것과 필요한 것을 짧고 때로는 퉁명스럽게 정리할 수 있음
    동시에 내가 원하는 것이 무엇인지 명확히 하게 해줌. 다만 수신자보다 조직 내 위치가 너무 낮다면 적절하지 않을 수 있음

  • AI 능력과 무관하게 가치를 유지할 인간 산출물의 범주가 있음: 예술과 스포츠임
    사람들은 창작자를 중요하게 여김. 출처가 작품, 경외감, 감정적 반응을 규정함
    하지만 그 바깥의 거의 모든 산출물은 AI 대체 위험에 놓여 있음. 기업은 이익을 최적화하는 비도덕적 실체이고, 필요한 만큼만 법을 따름
    법은 우리의 집단행동임. 우리는 사회적으로 무엇을 가치 있게 여길지 구성함. 기계가 할 수 있는 일을 하며 주 5일 노동을 지키기 위해 싸울 수도 있지만, 나는 기계의 공동 소유를 위해 싸우는 편이 낫다고 봄

    • 스포츠는 모르겠지만, 예술에 대해서는 한 가지 일화가 있음
      친구가 AI로 만든 노래를 공유했는데 품질에 놀랐음. 제작자가 Suno만 썼다고 밝혀서 궁금해졌고, 프로 요금제를 결제한 뒤 아내와 듣고 싶은 노래를 떠올리며 꽤 즐겼음
      우리 둘 다 만들 수 없는 노래였지만, 떠올려내는 과정은 진짜 재미있었음. “만들었다”고는 하지 않겠음. 우리가 만든 건 아니니까. 아내는 지금도 차에서 꽤 자주 듣고, 새 음악이 듣고 싶으면 더 떠올려내면 됨
      이것이 인간이 만든 음악을 학습 데이터로 삼았기 때문에 가능하다는 건 알고 있음. 도덕성이나 합법성에 대해 말하려는 건 아니지만 논의할 만한 주제임. 다만 실제로 AI 음악을 좋아하는 사람도 있다는 점을 말하고 싶음
      어쩌면 내가 바로 Huxley의 “Brave New World”가 경고한 그런 순진한 소비자일 수도 있음
    • 대형 기술 기업들이 모델과 가중치를 공개하도록 강제할 수 있다면 좋겠음. 근본적으로 인류의 집단 노동 위에 만들어진 산물이기 때문이고, 그중 일부는 GPL이나 CC-BY-SA로 라이선스된 것임
      버튼 하나로 저작권과 지식재산이라는 개념을 없앨 수 있다면 그렇게 하겠음
      https://en.wikipedia.org/wiki/Free-culture_movement
    • 그 영역 밖의 거의 모든 산출물이 AI 대체 위험에 있다는 데 꼭 반대하지는 않지만, 그 안에도 의도, 의사결정, 소통이라는 형태의 예술이 많이 있다고 봄
      다만 그 가치가 정말로 보는 사람과 상황에 달려 있다는 점은 인정함
    • 서비스직은 다른 분야보다 오래 남을 수 있음. 서비스 노동이 제공하는 가치의 일부는 인간적 연결이기 때문임
      하지만 우리의 정신과 몸이 기계가 못 하는 일을 더 이상 할 수 없게 되면, 팔 수 있는 것은 인간성뿐이라는 데 동의함
    • 예술은 이미 오늘날 AI로 인해 가치가 낮아지고 있음. Banksy는 괜찮겠지만, 경계선에 있는 예술가들은 생성 AI와 경쟁하고 있음

  • “인간은 가치 있다”는 문장은 사실 효용에 조건부로 달려 있음
    원글 작성자가 AI 때문에 일자리를 못 얻고 시장 가치가 0이 된 사람에게 와서 돈을 줄 것은 아님
    그래서 “인간은 본질적으로 가치 있다”는 말은 인간이 평가절하되는 와중에 건네는 의미 없는 위로일 뿐임

    • 타인을 시장 가치로 판단하는 사람들이 없다면 사회는 분명 더 나아질 것임
    • 힘든 인간을 도울 안전망이 있으면 좋겠음. 수조 달러 기업들이 사상 최고 수익을 내는 동안 말임
      하지만 그건 너무 “사회주의”이거나 무시무시한 공산주의로 취급됨

  • 우리의 삶은 경험들의 큰 모음일 뿐임. 삶에서 실제로 중요한 시간은 다른 사람들과 보내는 벽시계의 분들임
    이 시간들이 문자 그대로 우리가 가진 전부이고, 다음 1분은 죽을 때 잃는 유일한 것임
    기계와 대화하는 것은 식탁에 음식을 올리기 위해 어쩔 수 없이 하는 일일 뿐임. 기계와 대화한 시간은 기억에 남지 않고, 가치가 없기 때문에 기억할 만하지도 않음

    • 출시 당시 Need For Speed Underground 2를 안 해본 모양임. 그건 내가 겪은 인간 상호작용의 99%보다 나았음
답변달기