▲

AI에게 글쓰기를 맡기지 말라

 (alexhwoods.com)
2P by GN⁺ 20시간전 | ★ favorite | 댓글 1개
  • 글쓰기는 질문을 던지고 답을 찾아가는 사고의 과정으로, 단순한 문서 작성이 아닌 이해 확장의 행위임
  • LLM이 생성한 글은 사고와 학습의 기회를 잃게 하며, 이는 “대신 운동을 시키는 것” 과 같은 자기 성장의 포기임
  • 자동 생성된 문서는 진정성과 신뢰를 약화시키고, 작성자가 실제로 사고하지 않았다는 인상을 줌
  • 글쓰기의 본질은 리더십과 신뢰 구축에 있으며, LLM에 의존하면 그 기회를 잃게 됨
  • LLM은 연구·기록·아이디어 생성 등 보조적 역할에는 유용하지만, 사고와 성찰이 필요한 글쓰기 자체는 직접 수행해야 함

글쓰기의 목적과 사고 과정

  • 글쓰기는 질문을 제기하고 그에 답하는 과정으로 정의됨
    • PRD는 “무엇을 만들어야 하는가?”, 기술 명세서는 “어떻게 만들어야 하는가?”라는 질문에 대한 답변 형태
    • 때로는 “우리가 달성하려는 것이 무엇인가?”처럼 더 근본적인 질문을 다룸
    • 이러한 과정에서 자신이 올바른 질문을 하고 있는지 되돌아보게 됨
  • LLM(대규모 언어 모델) 의 확산으로 자동 생성된 문서·기사·에세이가 늘어나고 있음
    • 그러나 이런 문서는 사고와 신뢰를 쌓을 기회를 잃게 하는 행위로 지적됨
  • 글쓰기의 목적은 단순히 결과물을 완성하는 것이 아니라, 자신과 주변의 이해를 확장하는 것임
    • 글쓰기는 혼란 속에서 구조와 의미를 찾아내는 과정으로 비유됨
    • 반복적인 글쓰기를 통해 사고력과 표현력이 강화되며, 이는 운동을 통한 성장 과정과 같음
  • LLM에 글쓰기를 맡기는 것은 “누군가에게 대신 운동을 시키는 것” 과 같음
    • 스스로의 학습과 성장 기회를 포기하는 행위로 간주됨

신뢰 구축과 진정성

  • LLM이 작성한 문서는 사회적 신뢰를 손상시킬 위험이 있음
    • LLM의 흔적이 느껴지는 문서는 “다른 사람들이 듣고 싶어 하는 말을 흉내 낸 결과물”로 보임
    • 작성자가 실제로 아이디어와 씨름하며 사고한 흔적이 없다는 인상을 줌
  • 이런 문서는 리더십과 신뢰성을 약화시킴
    • 원래는 글쓰기를 통해 신뢰를 구축할 수 있었지만, 오히려 그 기회를 잃게 됨
  • “LLM이 생성한 글은 글 자체뿐 아니라 그 뒤의 사고의 진정성까지 훼손한다”는 지적이 있음
    • 문장이 자동으로 생성되었다면, 그 아이디어 또한 자동으로 만들어진 것이 아닐까 하는 의심을 불러일으킴

글쓰기 과정에서의 LLM 활용 방식

  • LLM은 연구, 검토, 정보 기록, 텍스트 전사 등 보조적 작업에 유용함
    • 그러나 이는 사고와 성찰이 필요한 글쓰기 행위와는 구분되어야 함
  • 아이디어 생성 단계에서는 LLM이 효과적임
    • 여러 아이디어 중 일부만 유용하더라도 손해가 없으며,
    • 사용자는 유용한 결과만 취하고 나머지는 버릴 수 있음
  • 이러한 도구들은 소프트웨어 전달 효율성을 높이는 역할을 함
    • 하지만 이를 제대로 활용하기 위해서는 사고의 깊이와 성찰 수준이 함께 높아져야 함
▲
GN⁺ 20시간전  [-]
Hacker News 의견들

  • 글쓰기는 독립적인 사고를 키우는 첫걸음이라 생각함
    영화 Ghost in the Shell의 한 장면처럼, 다양성이 사라지면 ‘과도한 전문화는 죽음’이라는 말이 떠오름
    LLM이 사회 전체를 집단사고로 몰아가게 될까 걱정됨
    미래의 아이들은 스스로 생각하고 의견을 만드는 법을 따로 배워야 할지도 모름
    관련 글

  • 나는 글쓰기를 ‘사고의 마지막 단계’로 여겨왔음
    머릿속에서 완벽하던 아이디어가 글로 옮기면 모순이 드러나고, 그 과정을 통해 생각이 정리됨
    하지만 많은 문서는 단순한 맥락 덤프(context dump) 에 불과했음
    이런 경우엔 차라리 AI가 문서를 대신 쓰게 하고, 사람은 핵심 사고에 집중하는 게 낫다고 봄
    언젠가는 AI가 AI에게 문맥을 전달하는 폐쇄 루프가 업무의 기본이 될 것 같음

    • 생각, 글쓰기, 말하기가 뇌의 서로 다른 부분을 자극한다고 들었음
      나도 보고서를 쓰다 보면 중간에 문제의 핵심이 풀리는 경험을 자주 함
    • 글쓰기의 전제를 버린다면, ‘잘 쓴 글’의 전제도 버려야 함
      LLM에게 줄 정보 그대로 사람에게 주면 충분함
    • 교육 시스템이 비판적 사고를 가르치는 데 실패했다고 느낌
      글을 쓰고 수정하는 과정이 스스로의 허점을 드러내고, 더 나은 질문을 하게 만듦
      대화체로 쓰면 사고가 더 깊어짐
    • 가르치는 과정에서도 같은 현상이 나타남
      생각을 구체화하려다 보면 머릿속의 모호함과 불일치를 마주하게 됨
    • 나는 AI 회의론자임
      사람들이 읽지도 않을 릴리스 노트를 AI가 대신 쓰는 게 왜 ‘최선의 해법’인지 의문임
      오히려 간결하게 요약하는 편이 낫다고 생각함

  • LLM이 ‘아이디어 생성에 특히 뛰어나다’는 주장에는 동의하지 않음
    평균적이고 무난한 결과물만 내놓기 때문임
    흥미롭거나 새로운 아이디어를 원한다면 LLM은 적합하지 않음

    • 나는 LLM을 러버덕(rubber duck) 처럼 씀
      설계를 설명하다 보면 스스로 문제의 엣지 케이스를 발견하게 됨
    • 주류 아이디어가 주류인 이유가 있음
      다르기 위해 다르게 하는 건 미덕이 아님
      LLM은 아이디어 생성기보다는 상식 생성기에 가까움
    • ‘평균적인 결과’라는 말은 틀렸다고 봄
      temperature나 top-k 설정으로 확률이 낮은 토큰을 선택하게 하면 충분히 다양해짐
    • 나는 가끔 막힐 때 LLM을 써서 브레인스토밍함
      대부분은 쓸모없는 아이디어지만, 그중 하나가 좋은 방향의 단서가 되기도 함
      그래도 여전히 약간의 도움은 된다고 느낌
    • ‘생성’이라는 단어의 혼용이 문제임
      실제 아이디어는 사람이 만들고, LLM은 연관된 해법을 나열해 영감을 주는 역할임

  • LLM이 쓴 글을 그대로 보내면, 상대는 내 생각이 아니라 모델의 출력물을 검토하게 됨
    특히 업무에서 LLM이 작성한 코드를 그대로 제출하는 경우가 문제임
    스스로 검토하지 않은 결과물을 남에게 맡기는 건 책임 회피임

    • 많은 사람이 LLM으로 생산하려 하지만, 아무도 그 결과물을 소비하길 원치 않음
      결국 생산자가 소비자에게 보상하는 구조가 생길지도 모름

  • 이 글의 제목은 ‘AI에게 글을 맡기지 말라’지만, 실제 요지는 ‘AI에게 생각을 맡기지 말라’에 가까움
    글쓰기는 사고의 한 방식일 뿐, 유일한 방법은 아님
    오히려 음성 녹음이 더 자연스러운 사람도 있음
    Rod Serling이나 Mark Twain처럼 구술(dictation) 로 작업한 작가들도 많음
    Mark Duplass의 The Talking Draft Method 영상 참고
    이후 AI로 전사와 문법 교정을 맡기면 효율적임

    • 나도 이 방식을 씀
      즉흥적으로 녹음한 뒤 NotebookLM에 넣고, “내 말투로, 내 목소리로 요약하라”는 프롬프트를 줌
      이 과정이 시간을 절약하진 않지만 감정 관리와 시작의 두려움 극복에 큰 도움이 됨
      ADHD 보조 기술로도 유용함
    • 그래도 글쓰기는 여전히 사고를 촉진하는 독특한 행위임
      손으로 쓰던 ‘morning pages’를 디지털로 옮긴 뒤 뭔가 잃은 느낌이 있음
      그래도 검색과 RAG 기능 덕분에 가치가 있음
    • 누군가가 내 말을 받아 적는 직접 구술은 글쓰기의 한 형태로 봄
      단순한 대화와는 다름
    • 나는 AI와 대화하며 아이디어를 확장함
      마지막에 요약까지 해주니 정리에도 도움 됨
    • 글쓰기가 어렵다는 걸 인정함
      AI 덕분에 내 생각을 더 잘 표현할 수 있게 되었음
      글을 잘 쓰는 사람들은 그게 얼마나 드문 능력인지 종종 잊는 듯함

  • 나는 예술(art) 의 영역에서 AI 사용을 멈춤
    Kurt Vonnegut의 말처럼, 예술 행위는 영혼을 성장시키는 과정임
    업무 보고서는 AI로 도와도 되지만, 블로그나 개인 글은 직접 써야 함
    내 블로그의 설명 페이지에도 그 철학을 담았음

    • 오늘 하루 두 번이나 Vonnegut의 인용문을 봤는데, 볼 때마다 반가움

  • LLM 덕분에 오히려 글쓰기의 본질을 깨닫게 됨
    나에게 글쓰기는 정신적 캐시 정리임
    스스로 쓰지 않으면 생각이 완전히 처리되지 않음
    AI에게 맡기는 건 마치 남에게 운동을 대신 시키고 근육이 생기길 바라는 것과 같음
    결국 모델의 유려한 문장을 읽고 내가 이해했다고 착각하는 게 진짜 함정임
    사진이 등장해 회화의 본질이 드러났듯, AI는 글쓰기의 목적을 다시 묻게 함

  • 나는 영어가 모국어가 아니어서 공식 글쓰기가 어렵지만, AI가 큰 도움이 됨
    물론 AI가 쓴 결과물은 반드시 직접 검토함

  • 예전에 들은 시카고대 글쓰기 프로그램의 강연이 인상 깊었음
    그 교수는 “글쓰기가 곧 사고의 과정”이라고 했음
    글로 표현하는 과정에서 생각이 구체화되고, 아이디어가 서로 연결됨
    Claude 같은 도구가 없던 시절에 이런 훈련을 한 게 다행임
    아이들이 ‘쉬운 버튼’을 누르기만 하며 사고력을 잃지 않길 바람
    강연 영상

    • ‘쉬운 버튼’으로 평범한 댓글을 운율 있는 시로 바꾸는 것도 학습의 한 방법일 수 있음
      이 세대가 가진 도구의 풍요로움이 부럽고, 그들이 만들어낼 새로운 활용이 기대됨
    • LLM과의 대화형 글쓰기도 가능함
      질문을 던지고, 답을 검증하며 사고를 확장할 수 있음
      글쓰기는 설득, 교육, 창작, 지식 정리 등 다양한 목적을 가진 복합적 행위임
      LLM은 문체, 비유, 리듬 등 언어적 요소를 세밀하게 제어할 수 있음
      결국 AI 글쓰기의 품질은 사용자의 조정 능력에 달려 있음

  • LLM은 ‘미친 듯이 시켜야’ 흥미로운 아이디어를 내지만 금세 반복됨
    결국 보조 도구로 쓰는 게 핵심임
    완전히 맡기면 비생산적이지만, 맞춤형으로 활용하면 사고를 돕는 도구가 됨
    영어가 모국어가 아닌 사람에게는 명확한 표현 수단으로서 큰 가치가 있음

답변달기