▲

나는 프롬프트를 읽는 것을 선호합니다

 (claytonwramsey.com)
1P by GN⁺ 9일전 | ★ favorite | 댓글 1개
  • 많은 학생들이 ChatGPT 스타일의 과제 답안을 제출하며, 이는 의미 없는 장황함과 반복으로 가득 차 있음
  • 저자는 이러한 현상에 대해 정직성 때문이 아니라 창의성의 가치 때문에 우려를 표함
  • 사람들이 AI를 쓰는 이유는 의미 없는 과제, 능력 부족, 혹은 결과 중심적 접근 때문임
  • 하지만 글쓰기란 자신의 생각을 표현하는 행위이며, AI는 그 어떤 독창성도 제공하지 않음
  • 저자는 “AI 출력물보다 차라리 원래의 프롬프트를 읽고 싶다”고 말하며, 진정한 글쓰기를 촉구함

서론

  • 교수인 저자는 학생들의 과제에서 AI가 쓴 듯한 글투를 자주 접하고 있으며, 이는 의도 없는 장황한 말들로 구성된 비인간적 텍스트임
  • 이러한 글들은 주제를 반복하며 진짜 생각 없이 프롬프트를 모방함
  • 이는 단지 교실에만 국한된 문제가 아니라 블로그, 논문, 리뷰, 심지어 Reddit에까지 확산되고 있음
  • 저자는 "AI를 쓰지 말라"고 말하며, 그 이유는 정직성 때문이 아니라 인간의 생각이 훨씬 더 흥미롭고 의미 있기 때문임

사람들이 AI를 쓰는 이유

1. 중요하지 않다고 생각함

  • 학생들이나 리뷰어들이 글쓰기 자체를 가치 없는 과업으로 간주하며, 결과물만 완성하면 된다고 여김
  • 이들은 수고를 줄이기 위해 AI에 의존하고 있으며, 논문 리뷰나 과제 등에서도 이 경향이 나타남

2. AI가 더 잘 쓴다고 믿음

  • 영어가 모국어가 아닌 사람들, 혹은 초보 개발자들이 AI가 더 나은 표현을 해줄 것이라 믿음
  • 하지만 이는 자신의 부족함을 감추는 선택이며, 결과적으로는 진짜 전달하고자 하는 생각을 흐리게 함

3. 돈이나 업무로 인한 ‘목적 있는 글쓰기’

  • 리뷰, 마케팅, 고객응대 등에서 사람을 위한 글이 아닌 검색 엔진이나 자동화 대상을 위한 글들이 생성됨
  • 이런 글들은 의도도 없고 인간성과도 무관함

왜 글을 쓰는가?

  • 저자는 글쓰기는 자신의 생각을 전달하는 도구라고 정의함
  • 심지어 강아지, 색깔, 여행처럼 사소한 주제도 괜찮지만, 반드시 '자신의 것'이어야 함
  • AI는 원래 자기 생각이 없기에 본질적으로 플래그보다 더 가치 없는 복제물에 불과함

의미 없는 글쓰기에 AI를 쓰는 것의 문제

  • Reddit 요약 댓글처럼 AI가 대신 요약해도 되는 글은 애초에 존재할 가치가 없음
  • 반면 과제나 논문 리뷰처럼 겉보기엔 사소하지만 실제로 중요한 일에는 더더욱 AI를 쓰면 안 됨
  • AI는 생각을 유도하지 않으며, 단지 문장만 만들기 때문에 진정한 학습이나 기여가 이루어지지 않음

의미 있는 글에도 AI를 쓰는 것은 더 나쁨

  • "AI가 더 잘 써준다"는 환상 속에서, 많은 사람들이 원래의 생각을 잃고 비문이나 장황한 글을 만듦
  • AI는 자주 사실을 왜곡하거나 핵심을 흐리며, 결과적으로 불필요한 장식과 거짓 정보만 양산함
  • 특히 개발자의 경우, AI가 만든 코드는 이해 없이 쓰인 코드이기 때문에 유지보수나 보안에 치명적임
  • Peter Naur의 이론처럼, 이해 없이 만들어진 프로그램은 죽은 코드이며, "vibe 코딩"은 무용한 시체들의 조합일 뿐임

AI 글쓰기 예시 실험

  • 저자는 자기 글의 도입부를 Google Gemini에 넣고 AI에게 이어서 써보게 함
  • 결과는 장황하고 단조로운 요약, 의미 없는 일반론, 무맛의 고급 어휘로 가득 찬 글이었음
  • 예를 들어 "Perhaps it stems from a desire for efficiency, a wish to quickly generate text without the perceived effort of crafting each sentence." 라는 문장은 그냥 "Perhaps people do it for efficiency."로 줄여도 됨
  • 즉, AI는 큰 문장으로 작은 생각을 담으며, 핵심이 없음

결론: 차라리 프롬프트가 낫다

  • 저자는 "AI가 만든 어떤 결과물도, 그걸 만든 프롬프트보다 낫다고 느낀 적이 없다"고 말함
  • AI는 내용도 감정도 없으며, 무의미한 반복만 제공함
  • 자신의 경험을 바탕으로 글을 쓰는 것만이 의미 있는 창작이며, 그것이 없다면 애초에 쓸 필요도 없음
▲
GN⁺ 9일전  [-]
Hacker News 의견

  • 수업의 글쓰기 연습 목적은 텍스트를 만드는 것이 아니라 학생이 생각하도록 강요하는 것임. 많은 지식인과 학자들이 이를 이해하지 못하는 것이 안타까움

    • 학생들은 LLM을 사용해 교육을 속이며, 실제로는 문제 해결 능력이 필요한 현실 세계에 직면하게 됨
    • 스스로 문제를 해결하고 배우는 사람은 장기적으로 큰 이점을 가질 것임

  • 동료들이 LLM으로 만든 장황한 텍스트 대신 간결한 입력을 요청함. LLM이 제한된 입력으로 장황한 텍스트를 생성할 수 있다면, 나도 그 간결한 입력이 필요함

  • 저자의 의견에 동의함. ChatGPT나 다른 LLM을 사용하는 개인에 대한 가치 판단이 아니라, 프롬프트를 만드는 데 들어간 생각이 LLM이 생성한 출력보다 더 흥미롭고 독창적임

    • LLM을 사용해 코드를 작성할 때, 프롬프트가 좋지 않으면 코드도 좋지 않음
    • 최근 LLM을 사용해 학문적 또는 창의적 글쓰기를 한 사람들의 반론을 듣고 싶음

  • 강사가 학생에게 단순히 텍스트를 반복하도록 요구하는 것이 문제임. 실제로 가르치려면 다음과 같은 방법을 사용해야 함

    • Tinkertoys로 만든 로봇 팔을 사용해 각도를 계산하고, 특정 지점을 터치하기 위한 각도를 찾아내는 문제를 해결하도록 함

  • LLM을 사용하는 다양한 방법이 있음

    • 생각을 정리하고 피드백을 받기 위해 사용함
    • 문체와 톤을 개선하고, 누락된 정보를 식별하는 데 도움을 줌
    • 반복적인 과정을 통해 최종 결과보다 긴 프롬프트를 작성함

  • 학위를 얻는 경제적 이유와 장애물 때문에 저자의 의견에 동의하지만, 대부분의 사람들은 학위를 좋은 직업을 얻기 위한 장애물로 봄

    • Meta와 Google이 새로운 코드의 대부분이 AI에 의해 작성되었다고 주장하는 것을 보면, AI가 세상을 지배할 것임

  • AI 생성 자료는 자연스럽게 확인 편향 기계임. AI 출력이 명백할 때는 쉽게 식별할 수 있지만, 인간 수준의 출력일 때는 별다른 생각 없이 지나침

  • LLM 이전에도 많은 복사-붙여넣기 과제를 받았음. LLM 출력이 경쟁력이 없기 때문에 과제에서 큰 위협이 되지 않음

  • 이메일 토론에 Copilot의 요약을 추가하는 것에 대한 논란이 있었음

    • 요약이 이해를 돕는다는 의견과 요약이 불필요한 산만함이라는 의견이 갈림

  • LLM 부정행위 탐지는 가발 오류의 흥미로운 사례임

    • 명백한 부정행위는 쉽게 탐지되지만, 교묘한 부정행위는 탐지하기 어려움
    • 교육계에 있다면 학생 작업을 검토하는 즐거움이 사라질 것임. 작업이 진짜인지 알 수 없기 때문에 의미가 없어짐
답변달기