작가에게 “AI 어떻게 생각하세요?”라고 묻지 말라

 (benjaminhollon.com)
1P by GN⁺ | ★ favorite | 댓글 1개
  • Benjamin Hollon은 작가라고 소개할 때마다 따라오는 AI 질문이 수년간 글쓰기 동기를 갉아먹었고, 창작 자체를 자기 의심의 대상으로 만들었다고 말함
  • 그는 AI의 개발과 사용에 기술적·직업적·윤리적 우려가 있으며, 진지한 작가의 글쓰기 품질이나 독자가 사람에게 기대하는 관계를 대체하지 못한다고 봄
  • 대화는 종종 질문자의 AI 사용 사례를 인정받으려는 흐름으로 바뀌고, 이는 인간 노동과 창의성을 낮게 보는 기술을 정당화하는 믿음을 강화함
  • 반복되는 질문은 작가의 실제 작업보다 AI를 먼저 떠올린다는 신호처럼 들리며, 그는 지난 3년 동안 ”Those Who Breathe Easy” 같은 일부 작품 외에는 많이 쓰지 못했음
  • 회사가 AI로 예술가를 대체할 수 있다고 믿더라도, 작가와 예술가는 상업 시스템 밖에서도 계속 만들 것이며 독자는 사람이 만든 작품을 원한다고 봄

반복되는 AI 질문이 만든 피로

  • Benjamin Hollon은 새로운 사람에게 자신이 작가라고 말하면 거의 매번 “그래서 AI에 대해 어떻게 생각하느냐”는 질문을 받는다고 함
  • 그의 기본 답변은 AI의 개발과 사용에 심각한 기술적·직업적·윤리적 우려가 있다는 것임
  • 문제는 사람들이 대개 그 답변에서 멈추지 않고 더 긴 대화를 요구한다는 데 있음
  • 이 반복은 몇 년 동안 글쓰기 동기를 심하게 해쳤고, 그는 자신이 사랑하는 주제로 돌아가기 위해 이 문제를 먼저 꺼내야 한다고 느낌

AI 글쓰기와 인간 창작에 대한 입장

  • 그는 “Artificial Intelligence”라고 불리는 기술이 진지한 작가들이 도달하는 글쓰기 품질에 가까이 가지 못한다고 판단함
  • 독자가 책을 읽는 이유는 실제 사람이 만든 창작물을 만나고 싶기 때문이며, 기계와는 그런 관계를 맺을 수 없다고 봄
  • AI는 이미 그의 창작 기술에 체계적 피해를 줬고 앞으로도 피해를 줄 가능성이 크지만, 실제 이익은 없다고 여김
  • 같은 대화를 반복해도 상대가 마음을 바꿀 만큼 신경 쓰는 징후가 거의 없어 피로가 누적됨

사용 사례를 인정받으려는 대화

  • 많은 대화는 상대가 자신이 AI를 어떻게 쓰는지 설명하는 방향으로 바뀜
  • 그는 상대가 “AI에 비판적인 작가도 내 사용 사례는 괜찮다고 본다”는 인정을 원한다고 느낌
  • 어떤 사용 사례든 AI가 나중에 더 좋아질 것이라는 믿음을 지속시키고, 그 믿음 자체가 현재 문제 대부분의 원인이라고 봄
  • 그런 사용은 인간 노동과 창의성을 낮게 평가하는 기술을 정당화하며, 노동자를 해고하고 더 많은 돈을 벌고 싶어 하는 1%에게 이롭다고 여김
  • 다만 처음 만난 사람에게 그런 말을 직접 하기에는 너무 예의 바르게 행동해 왔다고 함

질문 자체가 주는 상처

  • 누군가 작가의 일을 듣고 가장 먼저 AI를 떠올리면, 그는 상대가 자신을 가치 있게 여기지 않는다고 받아들임
  • AI를 작가의 일과 관련 있는 것처럼 묻는 태도는 실제 작업에는 관심이 없다는 신호처럼 들림
  • 그는 사람이 쓴 책에는 관심이 생길 수 있지만, ChatGPT에 책을 쓰게 하고 이름만 붙였다는 말에는 사람들이 실제로 관심을 갖지 않을 것이라고 봄
  • 사람들이 읽고 싶어 하는 것은 다른 사람이 쓴 것이며, AI는 사람이 아니므로 그 욕구와 맞지 않음
  • “ChatGPT가 소설을 쓸 수 있다”거나 그 소설이 읽을 만하다는 점도 사람들이 책을 읽는 이유와는 다르다고 판단함

3년간 이어진 글쓰기 정체

  • AI 질문은 자신의 글쓰기를 쓰레기와 동급으로 놓는 것처럼 들려, 자신의 글이 실제로 의미가 있는지 의심하게 만듦
  • 그는 펜을 드는 일이 두려워졌고, 자신을 작가라고 부르는 것이 얼마나 진실한지도 의심하게 됨
  • 지난 3년 동안 이런 상태에 갇혀 있었으며, 글을 쓰는 일은 자기 의심과 싸우는 과정이 됨
  • 일부 독자는 지난해 8월 출간된 ”Those Who Breathe Easy”나 베타 리더들이 읽어준 신화 이야기 시리즈를 봤을 수 있지만, 그는 실제로 많은 글을 쓰지 못했다고 함
  • 다시 빠져나오려 할 때마다 새로운 사람이 “AI에 대해 어떻게 생각하느냐”고 묻는 일이 반복됨

인간 예술의 미래

  • 그는 AI가 인간 예술을 대체할 수 없고 앞으로도 그럴 수 없다고 봄
  • 다만 언젠가 상사들은 AI가 대체할 수 있다고 생각할 수 있으며, 작가·예술가·음악가를 해고할 수 있음
  • 예술가를 해고해도 그들은 사라지지 않고, 현실 세계에 존재하는 실제 사람으로 계속 예술가로 남음
  • 회사가 고용하지 않아도 작가들은 글쓰기를 멈추지 않고, 기존 상업 시스템 밖에서 계속 쓰고 출판할 것이라고 봄
  • 독자에게 대형 출판사가 낸 ChatGPT 작성 로맨스 소설과 실제 사람이 마음을 쏟아 만든 책 중 하나를 고르라면, 그는 사람이 만든 책을 읽을 것이라고 함
  • 대형 예산의 상투적 Hollywood 영화와 창작 기술의 즐거움 때문에 소수의 젊은 사람들이 퇴근 후 만든 독립 영화를 비교할 때, 후자가 더 매력적일 수 있다고 봄
  • 상업 출판사들이 인간 예술가를 해고하는 순간, 자신들을 크게 만든 것이 무엇인지 잊고 가장 귀중한 자산을 풀어주는 셈이라고 여김

상처받는 작가들과 Writing Month

  • 그는 장기적으로 AI가 글쓰기 창작 기술에 심각한 위협이 아니며, 회사들이 작가를 대체하려는 실수를 하면 작가들이 더 강한 위치에 설 수도 있다고 봄
  • 그렇다고 그런 일이 일어나길 원하는 것은 아니며, 일부 작가는 이미 다쳤고 앞으로도 다칠 수 있음
  • “우리의 꿈은 가치 없다”는 신호를 반복해서 받으면 일부 작가는 실제로 글쓰기를 멈출 수 있음
  • 그는 작가들에게 어떤 글이든 AI가 뱉어낸 것보다 읽고 싶다며 계속 쓰라고 말함
  • National Novel Writing Month가 Artificial Intelligence 비판을 “classist and ableist”라고 부른 성명을 냈을 때, 그의 가장 큰 두려움은 상처받은 사람들이 글쓰기를 그만두는 것이었음
  • 그는 작가들이 계속 쓰도록 새 공간을 만들기 위해 Writing Month를 시작함

작가에게 대신 물어볼 질문

  • 그는 작가와 창작 기술에 대해 이야기하고 싶고, 같은 질문으로 상처받은 경험이 있는지도 듣고 싶어 함
  • AI 질문은 해치려는 의도가 없어도, 작가가 싸워 온 끊임없는 평가절하와 같은 방향에서 오는 말처럼 들릴 수 있음
  • 작가에게 “AI에 대해 어떻게 생각하느냐” 대신 “당신의 작품을 읽어볼 수 있느냐”고 묻는 편이 낫다고 제안함
  • 그런 질문은 작가가 사랑하는 일을 실제로 중요하게 여긴다는 신호가 됨

함께 보면 좋은 글 β

GN⁺   [-]
Lobste.rs 의견들

  • 당신이 아무리 형편없다고 생각하더라도, 직접 쓴 글을 읽는 편이 “AI”가 뱉어낸 무엇보다 훨씬 낫다고 봄
    NaNoWriMo가 스스로의 AI 옹호 때문에 무너진 건 슬프면서도 웃기고, 다시 슬픔. 아주 오래전에 NaNoWriMo를 한 번 해봤고 완성된 이야기는 못 만들었으며 두 사람에게만 보여줬지만, 그 몇 마디가 그다지 독창적이지는 않았어도 분명히 내 것이었다는 점이 아직도 묘하게 자랑스럽다. 언어 모델을 썼다면 겪지 않았을 고생이었고, 그 덕분에 더 나아졌다고 느낌
    AI에 관해 질문받았을 때의 Nick Cave 답변도 좋아함:
    https://www.theredhandfiles.com/chat-gpt-what-do-you-think/
    https://theredhandfiles.com/chatgpt-making-things-faster-and-easier/

    • NaNoWriMo가 조직이었다는 걸 이제 알았고, 그냥 “무언가”인 줄 알았음. 처음 읽었을 때는 “No Shave November”가 무너졌다는 얘기를 들은 느낌이었음
      다른 그룹으로 다시 시작하지 못할 이유는 없어 보임. 여기서도 Blog Carnival처럼 할 수 있을 듯함

  • AI에 대해 물어보는 건 환영하지만, 대답을 들을 각오가 있을 때만 가능함

  • 이건 컴퓨팅이나 바이브코딩과는 아무 상관이 없음

    • 요즘 “vibecoding” 태그는 생성 모델이 조금이라도 관련된 모든 것에 붙는 잡동사니 태그가 됐음. 너무 많은 무작위 글이 VC로 태그되다 보니, 이제는 LLM을 조금이라도 언급하는 걸 걸러내기 위한 장치 말고는 거의 의미가 사라진 듯함

  • NaNoWriMo가 인공지능에 관한 형편없는 성명에서, AI 비판을 “계급차별적이고 장애차별적”이라고 부르며 작가들을 얼마나 신경 쓰지 않는지 드러냈다는 대목이 참 대단함
    해로운 행위자에 대한 정당한 비판을 가져다가, 그 해로운 행위자를 비판하는 사람들에게 되돌려 씌우는 비형식적 오류에는 이름이 있어야 함. whataboutism이 떠오르지만 100% 맞지는 않아 보임

    • 좌파 맥락에서는 가끔 그걸 무기화된 좌파성이라고 부르니, “무기화된 <논증 이름>” 같은 식이 가능할 듯함
      여기서는 “무기화된 분노”가 가장 가까운데, “제조된 분노”와도 비슷하게 들림
    • 그 이름은 DARVO임: 부정(Deny), 역고발(counter-Accusations), 피해자와 가해자 뒤집기(Reverse Victim and Offender)
    • 반박하려는 건 아니고, 뜻이 조금 헷갈림
      저자가 그 오류를 보이고 있다는 말인가? 그렇다면 정당한 비판은 AI 비난을 “계급차별적이고 장애차별적”이라고 부른 것이고, 저자는 NaNoWriMo가 작가들을 신경 쓰지 않는다고 주장하면서 그걸 뒤집었다는 뜻이 됨

  • AI 예술은 스톡 사진과 스톡 음악의 길을 갈 것 같음. 널리 구할 수 있고, 범용적이며, 범위는 넓지만, 의미를 더하지 않기 때문에 대부분은 눈길도 주지 않게 됨
    상당수의 관객은 스톡 콘텐츠가 없는 편을 더 좋아했을 것이고, 이제는 스톡 콘텐츠가 진짜 콘텐츠의 부재를 가리는 산만함이라는 점을 알아차리는 사람도 줄어들 것임
    세상의 모든 콘텐츠에 무제한 접근할 수 있을 때 “흥미로움”을 건드리는 건 무엇을 제거할지에 대한 판단과, 더 많은 것보다 더 적은 것을 고르는 능력임
    다만 “흥미로움”과 “금전적 보상”은 다르고, 사회 안에서 각각의 자리가 있음

  • 한편으로는 자기 작업이 이런 식으로 평가절하되는 느낌이 답답할 수 있다고 봄. 다른 한편으로는 LLM 사용에 반대하고 그 해악을 알릴 기회라면 환영함
    사람들이 자기 사용 사례에 대한 인증을 원할 때는 확실히 짜증남. 적어도 나는 누구에게도 그런 인증을 해주지 않을 것임. 각자 자기 도덕적 기준이 있겠지만, 내 기준을 묻는다면 답은 반대임

  • 왜 여기에 “vibcoding” 태그가 붙었는지 모르겠음. 코딩에 관한 글이 아님

    • 이건 솔직히 여기 있을 글이 아님. 흥미로운지와 무관하게 주제에서 벗어남. 내 2센트임

  • 때로는 “해악은 보는 사람의 눈에 달려 있다”는 좋은 예라고 봄
    “내가 하는 기술에 대해 들었을 때 첫 생각이, 그 기술에 아무런 차이를 만들 수 없고 내 노력과 수고를 평가절하하기 위해 만들어진 기술이라면, 그건 당신이 나를 존중하지 않는다는 뜻이다”라는 문장은 솔직히 말해 저자의 머릿속에만 있는 해석임
    Benjamin이 실제로 그렇게 느낀다는 점을 부정하는 건 아니지만, 상대의 의도를 꽤 비우호적으로 해석한 것임. 모두가 이 기술이 무엇을 의미하고 삶에서 어디에 속하는지 알아내려는 중임. 그들은 당신의 의견을 존중하기 때문에 묻는 것임. 물론 당신의 입장에서 살아보지 않았으니 순진하게 묻기도 하지만, 이게 정말 그렇게 깊은 모욕인가 싶음
    작가로서 사람들과 대화하는 걸 좋아함. 인간과 선의의 논쟁을 하는 건 좋음. 우리가 AI 얘기를 너무 많이 하는 건 맞지만, 의미를 이해하려는 중이라면 얼마든지 이야기해보자는 쪽임

  • “사람들이 책을 읽고 싶어 할 때, 사실은 다른 실제 사람이 만든 창작물을 읽고 싶어 하는 것이며, 기계와는 관계를 맺을 수 없다”는 말이 정말 맞는지 잘 모르겠음
    예전에는 음악에 대해 속물적이었고 “진짜 악기로 연주한 음악만 좋아한다”고 말하곤 했음. 시간이 지나며 바뀌었음. 듣기에 좋다면 무엇이 만들었는지는 별로 신경 쓰지 않게 됨

    • 그래도 그 음악은 여전히 인간이 만든 것임. 물리 악기 대신 컴퓨터를 썼더라도 창의성, 감정, 의도가 들어감
    • 이번 주에 소설 하나를 중도 포기했는데, 일부가 LLM으로 작성된 것 같았음. 저자가 첫 4분의 1은 직접 썼고, 그 부분은 해변 독서로 나쁘지 않았는데, 이후는 Claude에게 끝내 달라고 한 느낌이었음. 이런 일은 처음 겪음
    • 나에게 음악은 인간이 자신을 표현하는 방식이고, 소통의 형태임. 그 과정에 인간이 한 명, 즉 청자만 있고 반대편에 생산자가 없다면 무의미하게 느껴짐

  • AI 글쓰기는 꽤 별로라고 생각하고, 사람들이 AI가 쓴 에세이를 공유할 때도 존중하지 않지만, 이 사람은 꽤 인간혐오적으로 행동하는 것 같음
    “그냥 질문하는 것 자체가, 내게는 문제다”라든가 “내가 하는 기술에 대해 들었을 때 첫 생각이…” 같은 반응은 과함
    Comic Book Guy가 사람들의 호기심을 단속할 권리는 없음. 누군가 AI를 써야 한다고 강요한다면 화내도 됨. 하지만 단지 의견을 묻는 것이라면? 거대한 변동처럼 보이는 것에 대해 묻는 것이라면? 많은 사람이 일자리, 인간 창의성의 미래, 교육을 걱정하고 있음. 그들은 당신의 기술이 영향을 받는지 아닌지 어떻게 느끼는지 묻는 것이고, 합리적인 질문임
    짜증 내지 않고 “소설가에게는 중요하지 않다고 생각한다”고 말하는 법을 못 배우겠다면, 짜증 내지 않고 “AI 얘기는 하고 싶지 않다”고 말하는 법이라도 배워야 함
    “직접 만난 뒤 내가 책을 냈다고 말하면, 그들이 그 책을 읽고 싶어 할 거라고 기대한다”는 대목은 이 동네에 온 지 얼마 안 된 사람처럼 들림

    • 그게 실제 호기심이긴 한가?
      원문 작성자의 말을 믿는다면, 대개 그 질문은 진짜 탐구가 아니라 글쓰기를 평가절하하는 일을 정당화받으려는 시도임. 그런 상황에서 작가가 화나는 건 꽤 이해 가능함
    • 비슷하게 느꼈음. 그를 만난다면 나도 아마 AI 얘기를 꺼내서 의견을 물어볼 것 같음. 내 AI 사용을 인정받고 싶어서가 아니라, 사실 AI는 손도 대지 않지만, 진심으로 그의 생각이 궁금하고 모르는 사람과 대화를 나누고 싶기 때문임. AI는 그의 분야와 내 분야 모두에 큰 영향을 주는 변화라서 꺼내기 쉽고 뻔한 주제이기도 함
      물론 그 주제에 질렸다는 건 이해됨. 너무 많이 반복됐으니 나도 자주 그렇게 느낌. 그래도 누군가와 성숙하게 논의할 수 있다면 여전히 지적으로 자극적일 수 있고, 그래서 Lobste.rs의 관련 토론을 아직도 대부분 읽음
답변달기