- Substack은 독자가 게시물의 인간 작성·AI 보조 비율을 추정하는 Pangram 스캔과 창작 과정을 공개하는 “How I make this” 기능을 출시함
- AI 사용 자체보다 투명성 부족에 초점을 맞춰, 작가는 자신의 기여를 인정받고 독자는 읽을 콘텐츠를 더 잘 판단하도록 돕는 것이 목적임
- 작가들은 투명성 강화를 환영하면서도 오탐 가능성, 단일 라벨로는 포착하기 어려운 창작 과정, 서로의 작업 방식을 감시하게 될 위험을 우려함
- 피드백을 반영해 Pangram과 상호작용하거나 먼저 스캔하지 않아도 게시물별 독자 스캔 비활성화가 가능해짐
- AI가 조사·번역·편집·초안 작성 등 여러 단계에 쓰이는 만큼 검출 결과만으로 저자의 생각과 노동을 판단하기 어려우며, 구체적인 작업 방식 공개가 독자와의 신뢰 형성에 활용됨
Pangram 기반 AI 투명성 기능
- 독자는 Substack에 게시된 텍스트를 스캔해 사람이 직접 쓴 부분과 AI 보조를 받은 부분의 추정 비율을 확인할 수 있음
- 게시자를 위한 기능도 함께 제공됨
- 게시 전 초안에 Pangram을 실행할 수 있음
- 게시물별로 독자 스캔을 비활성화할 수 있음
- 창작 과정을 설명하는 “How I make this” 문구를 추가해 독자의 기대치를 설정할 수 있음
- 기능은 웹·iOS·Android에서 이용 가능함
- Substack과 Pangram은 게시자의 콘텐츠를 생성형 AI 모델 훈련에 사용하지 않음
AI 사용보다 투명성에 초점
- AI 사용과 공개에 관한 규범은 아직 정착되지 않았지만, Substack은 AI 사용 자체가 반드시 문제는 아니더라도 투명성 부족은 문제라고 판단함
- 작가는 자신의 작업에 합당한 인정을 받고, 독자는 시간을 어디에 쓸지 더 많은 정보를 바탕으로 선택하도록 돕는 것이 목표임
- AI의 성능과 관계없이 인간의 관점은 문화에 필요한 요소라는 전제를 둠
인간 창작과 AI를 둘러싼 논의
- Archie Hall은 AI의 경제적 가능성에는 낙관적이지만, 읽을 만한 수준이더라도 AI가 작성한 문장은 피해야 한다고 봄
- Lincoln Michel은 예술에는 의도와 선택이 필요하므로, 선택의 산물이 아닌 AI 출력은 예술이 될 수 없다고 판단함
- Hinternet Editorial Board는 AI 의존도를 0~10의 모스식 척도로 분류하는 방식을 제안함
- Sam Kriss는 AI에 글쓰기를 맡기는 행위를 강한 어조로 거부함
- 작가들은 AI가 생성할 수 있는 것과 없는 것을 직접 시험해 옴
- Freddie deBoer는 대규모 언어 모델이 소설의 문장 자체를 제외한 구성 요소를 작성할 수 있는지 실험함
- Rohit Krishnan은 문학적 문체의 통계적 특징을 측정하고 모델이 이를 학습할 수 있는지 살펴봄
- Hollis Robbins는 서로 다른 두 LLM이 생성한 시를 비교해 위대한 시에 가까워질 수 있는지 검토하고, 시인에게는 예외적 표현 자체가 시라고 봄
- Elle Griffin은 미래의 AI 유토피아에서 보내는 하루를 허구로 작성함
- Andrea Bartz는 현재의 생성형 AI에 반대하는 상세한 논거를 작성함
- Teddy(T.M.) Brown은 상업적 글쓰기의 상당 부분이 본래 창조적 표현은 아니었으므로, 사라지는 것은 영혼보다 작가의 생계 수단이라고 봄
출시 직후의 긍정적 반응
- 일부 작가는 투명성 도구를 작가 보호와 독자 경험 개선을 위한 올바른 첫 단계로 평가함
- Katie Harbath는 AI 검출 도구가 윤리적 사용의 미묘한 차이를 지울 수 있다고 우려하면서도 투명성을 지지함
- 컨설팅과 책 출간 준비, 일상생활을 병행하며 정기 뉴스레터를 유지하는 데 AI가 도움을 줬다고 밝힘
- Gergely Orosz는 AI 작성임을 알게 되면 제작자가 직접 쓰는 데 시간을 들이지 않았다고 보고 읽지 않는다고 밝힘
- Joe Hill은 AI가 평균적인 사람보다 글을 잘 쓰지만 전문 작가보다 못하며, 이 차이로 독자를 밀어내는 저품질 콘텐츠가 대량 생성된다고 봄
- Helen Lewis는 자신이 쓴 2,000단어가 인간 작성으로 판정된 뒤 AI 사용 방식을 공개함
- 글은 직접 작성하며 AI로 사실 확인이나 맞춤법 검사를 하지 않음
- 조사에 AI를 쓸 때는 검색엔진을 사용할 때처럼 원출처를 직접 확인함
오탐과 공동체 문화에 대한 우려
- 반대 의견은 AI 사용 여부를 단일 라벨로 환원할 때 생기는 세 가지 한계를 짚음
- 사람이 쓴 글을 AI 작성으로 판단하는 오탐
- 하나의 라벨로 글의 전체 창작 과정을 포착하기 어려움
- 작품보다 다른 사람의 작업 방식을 감시하는 데 관심이 쏠릴 수 있음
- Emma Richmond는 특정 규칙을 따르는 학술적 문장이 AI로 잘못 분류될 가능성을 우려함
- Kathleen Schmidt는 오류가 발생할 수 있는 검출 도구를 누구나 사용하면, 실제로 AI를 쓰지 않은 작가도 AI 사용 의혹을 받을 수 있다고 봄
- Monica Hebert는 AI 검출을 위장된 도덕적 순수성 시험이라고 비판함
- 검출기는 AI 관여 가능성을 추정할 수 있지만 누가 최초 아이디어를 냈는지, 경험을 살았는지, 이야기를 말하고 수정했는지는 알 수 없음
- 초안을 거부하고 논지를 바꾸며 유머를 복원하고 문단과 결말을 다시 쓰는 인간의 작업도 측정하지 못함
피드백을 반영한 스캔 비활성화
- Substack은 피드백을 반영해 게시자가 먼저 글을 스캔하거나 Pangram과 상호작용하지 않아도 게시물별 독자 스캔 비활성화를 선택할 수 있도록 변경함
- AI 활용 방식은 창작자 수만큼 다양하므로, 스캔 결과와 함께 표시되는 “How I make this” 문구로 구체적인 과정을 공개할 수 있음
“How I make this” 활용 사례
- Claudia Sahm은 첫 초안을 항상 직접 쓰고 AI는 주로 명료성을 높이는 편집에 사용함
- 집필 전 아이디어를 AI와 검토하고, 직접 지시한 데이터 분석과 차트를 포함한 배경 자료 수집에도 활용함
- 오류와 누락에 대한 책임은 자신에게 있다고 밝힘
- 영어가 모국어가 아닌 Thierry는 AI를 영문 편집자처럼 사용함
- 문장은 다듬지만 생각이나 실질적인 내용은 바꾸지 않음
- Plum Sykes는 AI를 전혀 사용하지 않는다고 간단히 공개함
- Nate는 조사·초안·집필·편집 전반에 AI를 사용함
- 먼저 10~15분간 음성을 텍스트로 변환해 자신의 생각을 원형 그대로 확보함
- 이후 모델과 초안을 만들고 반복해서 수정해 자신의 생각과 의도를 정확히 반영함
- AI 보조로 판정되는 것은 정확하고 예상된 결과라고 봄
- Morgan Vogel은 공개된 Google Docs, 카페인 음료, 기도로 글을 쓴다는 유머러스한 문구를 사용함
- Sara Szal MD는 아이디어가 자신의 연구와 30년간의 임상 실무, 출간한 여섯 권의 책에서 나왔다고 밝힘
- 자신의 글로 훈련한 AI 도구를 편집과 출판 효율 향상에 사용하지만, 프레임워크와 모델, 비판적 사고, 임상 권고는 직접 구성함
- Anthony Lawrance는 Claude를 편집자가 기자팀을 운영하듯 사용함
- 자료와 이야기를 수집하게 한 뒤 출처를 검토하고 초안을 철저히 편집하며, 제목 작성과 발행 책임은 자신이 맡음
- Jim Waterson은 자신의 작업에 많은 인간의 노동이 들어갔으며 AI를 사용하지 않았다고 밝힘
앞으로의 계획
- Substack은 창작자와 독자 사이의 신뢰를 구축하고, 각자가 창작 활동과 사업에 적합한 선택을 할 수 있는 환경을 만들 방침임
- 다음 주부터 “Model Behavior” 시리즈를 시작해 작가·창작자·사상가들의 AI 시대 작업 방식과 AI에 대한 감정을 다룰 예정임
- 게시자에게 재공유와 댓글, “How I make this” 공개를 통해 AI 환경에서 작가와 창작자를 지원할 방법에 관한 의견을 계속 요청함