▲

Writing is Thinking - 글쓰기는 생각하는 것임

 (nature.com)
13P by GN⁺ 2일전 | ★ favorite | 댓글 1개
  • 인간이 직접 작성한 과학적 글쓰기의 중요성이 LLM 시대에도 지속적으로 강조됨
  • 글쓰기는 연구 결과 전달을 넘어서 사고를 정제하고 새로운 아이디어를 발견하는 도구
  • LLM이 작성한 텍스트는 책임성과 진정성이 부족하며, 허위 정보 생성 위험성(환각 현상)도 큼
  • LLM은 가독성 개선, 문법 교정, 아이디어 발상 등 도구적 활용에 효과적이지만 전체 글쓰기를 맡기면, 비판적 사고와 창의적 사고 기회를 상실할 수 있음
  • 창의적 연구 내러티브를 형성하는 경험과 반성의 기회가 인간 고유의 중요한 과정임

LLM의 시대에 인간이 생성한 과학 글쓰기의 가치

  • 과학적 글쓰기는 연구 방법의 핵심이자 연구 결과를 소통하는 일반적 관례임
  • 글쓰기는 단순히 결과 보고가 아니라, 구조적이고 의도적인 방식으로 생각을 정리하고 주요 메시지를 도출하는 과정임
  • 손글씨가 두뇌 연결성 및 학습·기억에 긍정적 영향을 준다는 연구 결과도 존재함

인간 중심 과학적 글쓰기의 필요성

  • 인간이 직접 작성한 과학적 글쓰기의 중요성을 지속적으로 인정해야 한다는 주장이 제시됨
  • LLM을 이용하면 전체 논문이나 심사 보고서를 빠르게 작성할 수 있지만, LLM은 저자가 될 수 없음 (책임성 결여)
  • 만약 글쓰기가 사고라면, LLM이 쓴 논문은 연구자가 아닌 모델의 ‘생각’ 을 읽는 것과 같다는 점이 문제로 지적됨

LLM 활용의 한계와 주의점

  • 현재의 LLM은 잘못된 정보를 생성할 수 있는데, 이를 ‘환각 현상’이라고 부름
  • LLM이 생성한 인용문이나 참고문헌이 허구일 수 있어 모든 내용을 꼼꼼히 검증해야 하며, 실제로 시간이 더 소요될 수 있음
  • LLM의 일부 문제는 과학 데이터베이스로만 학습된 모델로 개선될 수 있으나, 실질적 효율성은 아직 미지수임

LLM의 긍정적 활용 방식

  • LLM은 가독성 향상, 문법 교정, 다양한 논문 검색 및 요약, 아이디어 브레인스토밍 등에서 유용하게 활용 가능함
  • 작가의 슬럼프 극복, 다양한 설명 방식 제시, 새로운 주제 간 연결 발견 등 창의적 사고의 보조도 가능함

인간 고유의 창의성과 성찰의 가치

  • 그러나 글쓰기 전체를 LLM에 위임하는 것은 연구 분야에 대한 반성과 창의적 내러티브 구축의 기회를 잃는 결과를 초래함
  • 연구 내용을 매력적이고 설득력 있는 이야기로 재구성하는 과정은 학술 논문을 넘어 필수적인 인간 능력임
▲
GN⁺ 2일전  [-]
Hacker News 의견

  • 읽기는 곧 사고임이라고 생각함. 그리고 읽기와 쓰기가 사고 과정이기 때문에, AI 모델에게 이를 습관적으로 맡기는 것은 위험함. 특히 학생들의 형성기에는 읽기와 쓰기 방식으로 생각하는 법을 스스로 배워야 함—반성, 메모 등 계속 훈련이 필요함. 계산기 사용과 비슷한데, 어느 정도 기본기를 갖춘 후라면 전자계산기 활용이 괜찮지만, 최우선으로는 머리로 계산하거나 손으로 풀어보는 경험이 있어야 함. 입력 실수나 계산 결과를 검산하는 습관 때문임. 아직 사고력이 자리잡지 않은 어린 학생들이 LLM에 일을 맡기기 시작하는 것에 우려를 느낌

    • 고대 이집트의 문자 발명 이야기(플라톤의 파이드로스에서 인용)를 예로 들고 싶음. 토트가 타무스에게 문자의 유익함을 강조하지만, 타무스는 문자에 의존하면 기억력이 약화된다고 경고함. 이런 논쟁이 2000년 넘게 반복되어온 셈임. 나 역시 타무스의 의견이 맞을 수 있다고 보지만, 현실은 우리 모두가 이제 읽기와 쓰기를 활용해 삶을 살아가고 있음

    • 실제로 무언가를 종이에 써보는 행위 자체에서 더 깊은 사고가 일어남. 특히 엔지니어링 분야에서 이러한 체득이 중요함. 그래서 많은 테크 회사에서 RFC 같은 문서 문화가 발달함. 이는 작성자 본인에게도, 검토자에게도 큰 도움이 됨

    • 읽기는 타인의 생각을 따라가는 행위지만, 쓰기는 내 생각을 직접 탐구하는 과정임. 그래서 쓰기가 많은 이들에게 고통스러운 것이고, 동시에 꼭 필요한 이유임. 그리고, 가르침 역시 중요함. 사고를 명확하게 정제하는 것은 아주 가치 있고 어려운 작업임

    • LLM이 사고에 미치는 영향은 계산기와 똑같다고 봄. 어떤 사고 단계를 생략하게 하지만 그 덕분에 다른 종류의 사고를 새롭게 할 수 있음. 내 생각은 LLM 덕분에 증가했음. LLM이 반복적인 작업을 덜어주니, 정보의 '신호'만을 빠르게 추출하거나, 다양한 분야의 아이디어를 조합하는 데 더 많은 시간과 에너지를 쏟을 수 있었음. 실수를 저지를 수도 있으나, LLM 없이도 속도만 느릴 뿐 비슷한 실수를 했을 것임. 실은 전문가가 아닌 분야에서는 연구 자체를 포기하거나 생각이 매우 좁아졌을 것임. LLM을 막는다고 사고가 깊어지는 게 아님. 계산기를 금지한다고 모두가 수학을 잘하게 되는 게 아니듯, 계산기가 허용되면 수학을 좋아하는 이들은 훨씬 더 멀리 나아갈 수 있음

    • 이 아이들은 AI가 발전된 미래에 살게 될 것임. 세상이 빠르게 변하니 아이들도 스스로 깨달을 것이라 믿음. 하지만 인터넷 세대의 꿈꿨던 디지털 풍요는 점점 잉여 콘텐츠 홍수와 정보 전쟁으로 악몽이 되어가고 있다는 현실도 있음

  • Paul Graham의 말을 인용하고 싶음: "쓰기는 곧 사고임. 잘 쓰려면 명확히 생각해야 하고, 명확하게 사고하는 건 굉장히 어려운 일임. 실제로 쓰는 과정을 거쳐야만 할 수 있는 특별한 형태의 사고가 있음. 만약 써보지 않고 생각만 한다면, 실제로 생각한다고 착각할 뿐임. 세상이 '글을 쓰는 자'와 '쓰지 않는 자'로 나뉜다면, 겉보기보다 훨씬 위험한 결과를 낳음. 곧, '생각하는 자'와 '생각하지 않는 자'로 나뉘게 됨"
    https://www.paulgraham.com/writes.html

  • 사고와 쓰기는 밀접하게 연결되어 있음. 사고와 ChatGPT 사용은 그렇지 않음
    MIT Media Lab의 'Your Brain on ChatGPT' 링크: https://share.google/RYjkIU1y4zdsAUDZt

  • LLM이 실제로 어떻게 과학 논문을 "쓸" 수 있는지 의아함. 예를 들어, 웨스턴 블롯 결과, 특정 유전자 변형 마우스 데이터, 단일세포 시퀀싱 데이터 등이 주어질 때, 논문에서는 새로운 단백질을 밝혀내고 생쥐의 유전자를 편집해 어떤 경로가 변화하는지 설명하게 됨. LLM에 어떤 재료를 주고, 어떻게 이 발견이 의미 있는지 LLM이 알 수 있을까? 내 생각엔 LLM은 본질적으로 내가 시키는대로 패러프레이즈할 뿐임. 실제 글쓰기가 어려운 점은 '이야기를 어떻게 풀어갈지 결정하는 부분'임

    • 대학원에 가면 각 분야마다 논문 쓰기 표준 포맷을 배움. LLM이 충분히 많이 그 분야의 논문을 학습했다면, 사용자가 제공하는 정보들을 적절한 섹션에 맞춰 자동으로 배치 가능함. 논문 작성의 대부분 시간은 인용 처리와 형식 맞추기에 들어가기에, 이런 스타일적이고 반복적인 작업은 LLM이 대신해주면 오히려 좋음. 과학자는 엄정함과 명확성이 중요하지만, 스타일 맞추기 잡무는 자동화에 맡기고 싶음

    • LLM이 arXiv 같은 논문 저장소 전체를 학습해서 관련 논문들은 인간보다 더 잘 파악할 수도 있음

    • LLM도 계획이나 개요를 먼저 작성할 수 있으니, 이것 역시 일종의 글쓰기임

  • 말하는 것조차 사고임. 그래서 언론의 자유가 첫 번째 수정헌법이기도 함. 누군가가 내 발언권을 제한하면 내 생각도 통제함.
    글쓰기는 마치 '해리포터'의 '펜시브' 같은 초능력임. 머리에서 아이디어를 꺼내 분석의 여러 층위에서 살펴보고, 기억을 손쉽게 저장·정리할 수 있게 해줌

    • 언론의 자유에 관한 현재의 관념은 사실 비교적 최근(1910~1920년대)에 자리잡음. 그 이전에는 'free speech'의 의미가 지금과 매우 달랐다는 점을 다루는 훌륭한 팟캐스트(Radiolab 등)가 있었음

    • 관련 웹사이트: https://voicebraindump.com

  • 사람들이 "글쓰기가 중요하다"고 말할 때, 사실은 "내가 쓰면서 똑똑해지고 기분이 좋다"고 느끼는 것 아닌가 생각함. 실제로는 머릿속에서 오랫동안 아이디어를 조합하다가, 다 모였을 때야 비로소 높은 층위로 종합하는데, 이 진짜 종합 과정을 글쓰기 행위로 오해하기 쉽다고 봄. 만약 1주일 전에 써보려 했다면 비생산적이었을 것임

    • 적어도 나에게는 그렇지 않음. 생각과 아이디어, 지식을 종이에 구체적으로 옮기는 과정에서 오류나 부족한 점을 발견하고, 이를 바로잡을 기회가 생김. 단순한 수정에 그치지 않고, 새 시각이나 관점도 떠오름—이런 것들은 이전에는 내 의식에 없던 것임. 나는 글쓰기를 사고의 도구로 삼음. 또 다른 도구로는 그룹 브레인스토밍이나 토론이 있음. 이런 행위는 내 생각을 보완하고 더 견고하게 만들며, 새로운 방향이나 연결고리까지 제시해줌. Paul Graham의 에세이(아이디어를 단어로 옮기기)와 Paul Zissner의 'Writing to Learn' 책도 추천함. 글쓰기를 배울 때 연습 삼아 해보는 것은 일종의 '가르침' 효과로, 파인만 학습법과도 일맥상통함
      https://paulgraham.com/words.html

    • 내 개인 경험을 예로 들면, 실제로 써보면 내 사고나 지식의 모순점, 빈틈을 찾게 됨. 그것을 찾아내고 고치는 것 자체가 내가 '글쓰기가 곧 사고다'라고 하는 이유임

    • 나는 동의하지 않음. 내 방식은 각기 섞이지 않은 생각들을 우선 다 적어놓고, 구조가 드러날 때까지 배치와 재구성을 거침. 마지막에는 종합된 결과물이 완성됨. 어느 정도 구조가 뇌리에 있었겠지만 명확히 드러나 있진 않았음. 재배치가 반복되는 것만 봐도, 글쓰기 자체가 종합 작업이라는 증거임

    • 글로 적어놓아야만 허점이나 오류를 발견하게 됨. 그걸 쓰지 않으면 경험상 절대 찾지 못함

    • 너무 냉소적인 시각임. 사람마다 사고·작업 방식이 다르고, 각자 얻는 유익도 다름. 대부분 '글쓰기가 미덕'이라 과시하려고 말하는 건 아님

  • "글쓰기가 곧 사고"라는 메시지에 공감하지만, 그건 조건에 따라 맞는 말임. 원래부터 그런 건 아니었음. 실제로 우리는 글쓰기가 저렴해진 후에야 글을 쓰며 생각을 발전시키는 법을 익혔음. 18~20세기 초 작가들의 작품과 일기를 보면, 톨스토이, 츠바이크, 괴테 등은 책 전체 내용을 미리 머릿속에 구상한 뒤 20~30일에 한 번에 써낸 것 같음. 과거에는 생각과 글쓰기가 별개였음. 현대에는 저렴한 종이와 컴퓨터 덕분에 그런 방식이 바뀐 것임. 지금 방식이 잘못됐다는 뜻은 아니지만, '생각=글쓰기'가 유일하다고 오해하면 안 됨. 소크라테스도 글쓰기가 기억력을 해친다고 했는데(완전히 틀린 말도 아님), 지금은 다들 글쓰기를 사용함. LLM에 대한 비판이 묘하게 아이러니함. 글쓰기에 대한 비유가 저절로 떠오름. LLM과 함께 자란 아이들은 사고 방식이 달라질 것임

    • 오히려 "생각이 글쓰기다"라는 주장에 반응한 것이라고 보임. 나도 글 없이도 생각은 충분히 가능하다고 봄. 단, 글쓰기는 완성된 생각을 단순히 쏟아내는 것이 아니라, 그 과정에서 내 생각을 비판하거나, 새로운 아이디어를 도출하거나, 단순화하거나 확장하는 데 도움을 줌. 글로 쏟아내면 메타적으로 재검토하기가 훨씬 쉬워짐

    • 종이가 비싸던 시절에는 일시적인 기록을 위해 왁스나 나무판을 사용하곤 했음. 전적으로 기억만으로 책 전체를 구상해 한 번에 쓴다는 주장은 실제로 얼마나 흔했는지 의심스럽고, 톨스토이의 '전쟁과 평화' 집필 과정에 관한 증거도 있음
      https://amazon.com/Tolstoy-Genesis-Peace-Kathryn-Feuer/dp/…

    • 중세 철학서에서 길고 논리적인 내용을 볼 때마다, 당시 임시 메모 용지조차 흔치 않았던 시대에 어떻게 저렇게 전개했나 궁금했던 적이 있음.
      그리고 "LLM과 함께 자란 아이들이 생각이 달라질 것"이라는 말에 대해, 구체적으로 어떻게 달라질지 궁금함. 현재 대학생들이 LLM을 활용하는 모습을 보면, 달라진다기보다는 오히려 사고를 오히려 덜 하는 것 같아 걱정임

    • 유사하지만 조금 다른 시각으로 Larry McEnerney의 이론이 있음. 글쓰기를 사고를 위한 글쓰기와 전달을 위한 글쓰기로 구분함. 사고를 위한 글쓰기는 소크라테스 이전부터 존재하지만 개인적 행위에 가까움. 전달을 위한 글쓰기는 소설, 저널리즘 등 범위가 넓음. Larry는 주로 논문을 준비하는 학생들이 이 두 가지를 연결하지 못해 곤란을 겪는다는 점을 다룸

    • LLM은 기존의 "글쓰기"와는 매우 다름. LLM은 창의적 에이전트에 가까움. 내가 내 생각을 글로 여러 번 반복, 수정할 수 있는 장점이 있는데, LLM을 사용하면 이제 '다른 누군가'가 사고, 글쓰기, 편집까지 대신하게 되어 내 사고량은 줄어듦. 자전거는 내 힘으로 더 멀리 가는 방식(글쓰기), 자동차는 완전히 다른 에너지원(LMM)이라면, 신체적 건강엔 어떤 게 더 좋을까? 그리고 톨스토이가 책 전체를 머릿속에 담아두고 순식간에 써냈다는 주장은 흥미로움. 실제 사례/증거가 궁금함. 톨스토이처럼 귀족이었다면 충분한 자원이 있었을 것으로 보임

  • 많은 이들이 LLM이 인간의 글쓰기 자체를 대체하면 인간 발달에 위험이 생긴다고 해석함. 나는 보다 낙관적으로 봄. 좋은 글쓰기가 좋은 사고로 이어진다면, 내 글쓰기 실력을 높이는 모든 노력은 사고력 향상으로도 연결됨. 그런 면에서 LLM은 글쓰기 실력, 나아가 사고력 자체를 개선하는 데 오히려 큰 도움이 됨. 배경 정보나 관련 주제에 대한 피드백도 강력하게 받을 수 있음. 절제 있게 LLM을 사용하면 오히려 더 나은 인간이 될 수 있다고 믿음

    • 나 역시 이 의견에 동의함. LLM은 사고의 도구이지, 사고의 대체물이 아님. 사실 시간이 지나면 읽기와 쓰기가 사고 방식을 완전히 바꾼 것처럼, LLM과 함께 사고하는 방식도 근본적으로 바뀔 수 있다고 느낌. LLM은 내 아이디어를 테스트하는 이상적인 상대가 될 수 있고, 사고의 과정 자체가 LLM과 함께 반복적으로 정제되는 공동작업이 될 수 있음

  • 본격적으로 깊이 생각이 필요할 때마다 sublime text를 켜고, 가능한 한 간결하게 상황을 한 줄씩 적음. 이때 스스로에게 아주 직설적이고 기본적인 질문을 던지면서 본질, 목표, 경로를 정말로 파악하려 노력함. 마치 조직폭력배 보스에게 답하는 것 같은 기분으로, 핑계나 명분 없이 진실만 추려냄. 그렇게 하면 전체 구조가 이해되고, 즉각적으로 할 일 목록까지 떠오름

  • 내 예전 매니저(겸 에디터)는 글쓰기를 '발견(discovery)'이라고 자주 말했음. 곧, 사고와 본질적으로 같은 맥락임. 이 의견에 동의함

답변달기