차라리 프롬프트를 읽고 싶다

• LLM 글쓰기는 학생 답안부터 논문 리뷰까지 겉모습은 그럴듯해도, 읽는 사람에게 새로운 생각이나 경험을 거의 주지 못한다는 비판임
• 사람들이 글쓰기를 맡기는 이유는 과제를 중요하지 않게 여기거나, 모델이 자신보다 낫다고 믿거나, 상업적 자동 생성 텍스트를 만들려는 경우로 나뉨
• 글쓰기의 목적이 자기 생각을 전달하는 데 있다면, 자체 생각이 없는 LLM 출력은 표절보다도 공허한 산출물에 가까움
• 수업 과제와 논문 리뷰처럼 형식적으로 보이는 일도 실제로는 사고와 판단을 요구하며, LLM은 텍스트만 만들 뿐 생각하는 과정을 대신하지 못함
• Gemini로 만든 234단어 예시는 프롬프트를 장황하게 반복하고 일반론을 덧붙였을 뿐이라, 결과물보다 원래 프롬프트가 더 읽을 가치 있음

---

LLM 글쓰기에서 드러나는 문체와 한계

• 학생 과제를 채점할 때 오일러 각(Euler angles)의 단점을 설명하는 답안처럼, ChatGPT 출력물로 보이는 글을 자주 마주함
• 이런 답안은 대체로 장황하고 애매하며, 굵은 글씨 불릿 스타일에 집착하고 프롬프트를 반복하는 경향이 있음
• ChatGPT식 문체는 알아볼 수 있을 만큼 독특하지만, 명예위원회에 넘길 만큼 결정적인 증거는 아니라고 판단함
• 문제를 제기하더라도 수업의 정직성에서 얻는 이득이 사안을 다투는 시간보다 큰지 확신하기 어렵다고 봄

사람들이 LLM에 글쓰기를 맡기는 이유

• 중요하지 않다고 느끼는 작업

  • 수업을 학위 취득을 위한 장애물의 연속으로 보는 학생들에게 흔한 태도라고 봄
  • 논문 리뷰에서도 비슷한 동기가 늘고 있으며, 관련 사례로 paper reviews를 연결함
  • 많은 연구자는 리뷰를 이미 과중한 업무의 부수 작업으로 여기고, 좋은 리뷰를 쓸 시간을 내기 어렵다고 느낄 수 있음

• 모델이 더 잘 쓴다고 믿는 경우

  • 일부 동료는 LLM이 자신보다 더 나은 글을 만든다고 믿음
  • 체감상 영어가 제2언어인 사람들에게 더 흔한 현상으로 보임
  • 처음 프로그래밍을 배우는 사람에게도 비슷하며, 프로그래밍을 외워서 읊는 신비한 주문처럼 받아들이는 태도와 연결됨
  • 학술 글쓰기에서도 비슷한 사용이 있으며, 관련 사례로 academic writing을 연결함

• 이해관계가 걸린 자동 생성 글

  • 애스트로터핑(astroturfing), 고객지원 챗봇, 온라인 베이킹 레시피의 장황한 도입부가 예시임
  • 이런 글은 사람이 읽도록 쓰인 것이 아니며, 저자의 의도도 담지 않는다고 봄
  • 개인의 동기를 다루는 범위에서는 이 유형을 깊게 다루지 않음

글쓰기의 목적과 LLM 출력의 공허함

• 인간이 글을 쓰는 주된 이유는 원래 생각을 전달하기 위해서임
• 그 생각은 특별하거나 학술적일 필요가 없으며, 휴가, 반려견, 좋아하는 색도 충분한 주제가 될 수 있음
• 중요한 조건은 그 생각이 자신의 것이어야 한다는 점임
• 다른 사람의 말을 베끼면 자신의 생각은 전달하지 못하지만, 적어도 인간의 생각을 전달하긴 함
• LLM은 구조상 자체 생각이 없으므로, 그 출력물을 공개하는 일은 목적 없는 행위에 가깝다고 봄

중요하지 않아 보이는 작업도 실제로는 중요함

• Reddit 글 아래에 컴퓨터가 만든 원문 요약을 댓글로 다는 일은 모두의 시간을 낭비한다고 봄
  • 원문이 요약만으로 충분할 만큼 빈약하다면 댓글로 참여할 가치가 없음
  • 원문이 실제 인간의 독해를 요구한다면 요약은 무의미함
• 수업 글쓰기 과제의 목적은 텍스트 산출물이 아니라 학생에게 생각을 강제하는 데 있음
  • LLM은 산출물은 만들지만 사고 과정은 만들지 못함
• 논문 리뷰에서 반쯤 성의 없는 리뷰는 원저자에게 불필요한 일만 만들고, 편집자에게 이미 아는 것 이상의 정보를 주지 못함

“모델이 더 낫다”는 믿음에 대한 반박

• 전문적 커뮤니케이션에서 LLM은 주로 군더더기를 만들거나 원래 프롬프트의 어조를 고치는 데 쓰인다고 봄
• 그 과정에서 원래 의미가 흐려지고, 단순한 생각에도 불필요한 말이 여러 겹 덧붙음
• 운이 좋으면 틀리지는 않지만, 중요한 세부사항을 완전히 지어내거나 이해하기 어려운 글을 만들 때가 많다고 봄
• 인간의 서툰 글에는 적어도 공유하려는 내적 이해가 있다고 기대할 수 있지만, LLM에는 그런 기대를 둘 수 없음

프로그래밍과 vibe coding

• 프로그래머에게는 조금 더 공감하지만, 장기적 결과는 더 은밀하게 해롭다고 봄
• Peter Naur의 Programming as Theory Building을 떠올리며, 충분히 복잡한 프로그램 작성에는 코드 산출물뿐 아니라 코드 뒤의 논리 구조에 대한 이론이 필요하다고 봄
• vibe coding은 프로그램을 거의 전적으로 LLM 생성에 맡기는 방식으로 정의됨
• 이런 방식은 이론 없는 산출물을 만들며, 그 결과 코드는 실질적으로 쓸모없다고 봄
• Naur의 표현으로는 그런 프로그램이 죽은 것이고, 여기서는 태어나자마자 죽은 것에 가깝다고 비유함
• vibe-coded 앱이 보안 문제로 고생하는 사례로 OpenAI 키를 유출한 vibe-coded recipe app을 듦

Gemini 실험

• 에세이의 논지를 Google Gemini에 넣고, 짧은 문단 2개로 글을 완성하라고 요청함
• Gemini 출력은 234단어였고, 프롬프트를 길게 다시 말하는 데 그쳤다고 평가함
• 어조는 넓고 무의미한 일반론에 머물렀으며, 큰 어휘를 쓰지만 취향 있게 쓰지는 못했다고 봄
• 예시 문장 “Perhaps it stems from a desire for efficiency, a wish to quickly generate text without the perceived effort of crafting each sentence.”는 작은 생각을 큰 문장으로 만든 사례임
• 같은 뜻은 “Perhaps it stems from a desire for efficiency.”로 줄일 수 있고, 더 다듬으면 “Perhaps people do it for efficiency.”가 됨
• 이 실험은 LLM이 허튼소리를 늘리는 데는 뛰어나지만 그 외에는 별로 좋지 않다는 결론으로 이어짐

차라리 프롬프트를 읽겠다는 결론

• 이미지, 텍스트, 오디오, 비디오를 포함한 어떤 창작형 생성 모델 출력도 원래 프롬프트보다 보고 싶었던 적이 없다고 밝힘
• 생성된 결과물은 프롬프트보다 실질이 적고, 만들어지는 과정에 인간의 비전이 없음
• 창작의 목적은 자신의 경험을 공유하는 데 있으며, 공유할 경험이 없다면 굳이 만들 이유가 없다고 봄
• 쓸 가치가 없는 글은 읽을 가치도 없다는 결론으로 마무리함

[GN⁺]

Hacker News 의견들

• 직장에서 LLM으로 말도 안 되게 장황한 글을 만들어내는 동료들에게, 차라리 프롬프트만 보내 달라고 이미 여러 번 요청했음
  LLM이 제한된 입력으로 긴 글을 만들 수 있다면, 필요한 건 그 간결한 입력뿐이고 나머지는 지어낸 군더더기라고 봄

  • 머릿속에 흐릿한 생각이 있는데 간결하게 표현하려면 오래 걸릴 때, LLM으로 내가 말하려는 바를 압축하는 게 꽤 유용했음
    괄호가 많고 반쯤 구조화된 의식의 흐름을 타이핑하거나 받아쓰고 요약해 달라고 하면, 내가 하려던 말을 더 잘 정리해 주는 경우가 많았음
    Pascal의 유명한 말처럼 “시간이 있었다면 더 짧은 편지를 썼을 것”이라는 상황과도 닿아 있음
    참고로 위 문장을 LLM에 압축시켜 보니, “흐릿한 생각을 표현하기 어려울 때 반쯤 정리된 생각을 길게 말하거나 쓰고 LLM에 요약을 부탁하면, 의도를 더 명확하고 효과적으로 잡아준다” 정도로 나왔음
  • “누가 이 AI 생성 메시지를 보냈는데, 이 글을 만든 짧은 프롬프트가 무엇이었을지 최대한 추정해 줘”라고 하면 됨
    이제 AI는 그냥 손실 있는 예쁜 출력기가 됨
  • https://marketoonist.com/2023/03/ai-written-ai-read.html
  • 최근 BA가 준 스토리 요구사항이 서로 모순되고, 이전 논의보다 훨씬 장황해서 반나절을 낭비했음
    겨우 연락이 닿자 실제 요구사항을 ChatGPT에 넣었고 “결과를 검토할 시간이 없었다”고 털어놨는데, 정말 화가 났음
  • 이력서 같은 걸 LLM으로 쓰는 일도 비슷하게 느껴짐
    LLM은 프롬프트에 준 것 이상으로 나에 대해 알 수 없으니, 결과물이 프롬프트보다 더 많은 정보를 줄 수는 없음
    공개 지식에 대한 질문에는 외부 자료에서 새 정보를 끌어올 수 있으니 훨씬 유용함

• 저자의 관점이 마음에 듦: ChatGPT나 Gemini 같은 LLM을 쓰는 개인에 대한 가치판단이 아니라, 프롬프트를 만드는 데 들어간 생각이 LLM 출력보다 필연적으로 더 흥미롭고 독창적이며 인간적이라는 뜻임
  코드 작성에 LLM을 써 본 경험상, 프롬프트가 쓰레기면 코드는 객관적으로 쓰레기임
  내가 원하는 게 뭔지 모르고, 아이디어도 구조도 계획도 없으면 그런 코드가 나옴
  최근 LLM으로 학술 글쓰기나 창작 글쓰기를 해 본 사람들의 반론도 듣고 싶음. 개인 프로그래밍 프로젝트에서 보일러플레이트나 뼈대를 뚫고 나가는 용도 외에는 최근 모델을 써 보지 않았음

  • 이게 핵심임. Sonnet 3.5 같은 최신 모델도 프롬프트가 열려 있을수록 답변은 더 진부하고 일반적이 됨
    결국 쓰레기 입력, 쓰레기 출력이 계속 반복되는 구조임
    몇 주 전에도 현재 LLM이 Dungeons and Dragons에서 훌륭한 캠페인 제작자가 될 수 없는 이유로 이 점을 들었음
    인간은 “제약”이 없어도 됨. 유능한 작가에게 조용히 앉아서 새로운 소설 줄거리를 떠올리라고 하면 그냥 해냄
    https://news.ycombinator.com/item?id=43677863
    다만 LLM은 훌륭한 아이디어 반응판이 될 수는 있음
    증거가 더 필요하면 온도를 1.0으로 올리고 아무 LLM에 “DND 캠페인용으로, 기존에 없는 독특한 퍼즐이 있는 독립적인 던전 방 하나를 상상해라. 퍼즐, 해법, 방 배치 등을 구체적으로 쓰고 완전히 새롭고 상상력 있게 만들어라”라고 물어보면 됨
    99%는 “The Resonant Hourglass”나 “The Mirror of Acoustic Symmetry” 같은 공식적인 물리 기반 퍼즐을 내놓을 거라고 장담함
  • 내 경험상 Gemini는 창작 글쓰기를 꽤 잘할 수 있지만, 매우 조심스럽게 프롬프트를 주고 편집해야 함
    아이디어를 넣고, 뺄 건 빼고, 톤과 간결함을 정하고, 여러 초안을 돌리는 식임
    https://old.reddit.com/r/singularity/comments/1andqk8/gemini...
  • 복잡한 감정이 있음. 일반적으로 인간이 읽어야 하는 무언가를 만드는 데 LLM 출력물을 그대로 써서는 안 된다고 보지만, 번역이나 제2언어 글쓰기에는 큰 예외를 둠
    동시에 이런 용도로 LLM이 필요한 사람일수록 출력의 약점을 가장 못 알아볼 가능성이 큼. 내가 스페인어 글을 못 쓰듯, LLM이 만든 스페인어 번역의 품질도 평가할 수 없음
    극단적으로 보면 오늘날 학생들은 LLM에 의존하고, 더 잘 모른 채 신뢰하다가, 아무것도 모르는 상태로 모든 것을 신뢰하게 되고, 품질이나 성능조차 평가하지 못할 수 있음
    저자와 달리 보는 한 영역은 코딩임. 알고리즘을 좋아하긴 하지만 코드는 컴퓨터가 읽도록 쓰이는 것이고, 컴퓨터가 코드를 쓰는 데 큰 문제를 느끼지 않음
    LLM은 단순 함수 작성 시간을 많이 아껴 줘서 프로젝트의 지루한 잡일을 빨리 넘기고 흥미로운 부분에 집중하게 해 줬음
    Miyazaki의 “인간이 자신감을 잃었다”는 말이 가장 잘 맞는다고 봄. LLM은 반복적이고 지루한 일을 자동화하는 훌륭한 도구가 될 수 있지만, 사람의 고유한 관점을 대체할 수 있다고 생각하는 건 슬픔
  • 창작·전문 글쓰기에서는 문법과 구문 검토, 흐릿한 설명에서 적절한 단어를 찾는 용도로 유용했음
    구조를 잡는 데는 거의 도움이 안 됨. 글쓰기는 이해가 너무 명확해서, 그 의미를 단어로 줄여도 다른 사람이 붙잡을 수 있게 하는 일임
    LLM은 그 부분에는 별 도움이 안 된다는 데 동의함
  • LLM은 교정에 훌륭함. 논문의 결론과 초록을 쓰는 데도 좋음. 논문의 결과를 종합하고 보기 좋게 만드는 일인데, 대부분의 과학자들이 절망적으로 못하는 작업임
    단, 모든 정보가 프롬프트 안에 있어야 함. 그렇지 않으면 환각을 함
    결과물은 그대로 제출할 수준은 아니지만, 빈 화면을 보는 대신 시작하고 반복하기에는 충분함
    방법론 섹션도 써 보게 하고 싶음. 매 논문마다 거의 같은 정보를 다른 문장으로 반복하는 작업이기 때문임
    하지만 아직 기술적 세부사항의 정확성을 믿지 못함. LLM은 언어 모델일 뿐 지식이나 이해가 없음

• 이런 식으로 쓰면 LLM은 역압축 알고리즘 같음. 단순한 아이디어를 LLM이 부풀려 지저분하게 만들고, 다른 사람이 다시 LLM으로 요약해 원래 프롬프트에 가까운 것으로 되돌림
  이 무의미한 작업에서 이득을 보는 건 Sam Altman 일행뿐이고, 이들은 이를 가능하게 한 대가로 $0.000000001 정도를 챙김

  • 답은 그거라고 봄. LLM은 기본적으로 데이터와 텍스트의 변환·축소에 유용하지, 확장에 유용한 도구는 아님
    예외는 적은 정보를 길게 표현해야 하는 반복적이거나 보일러플레이트성 텍스트와 코드임
  • 실제로 Sam Altman은 그 돈을 전력과 연산 비용에 쓰고 있을 가능성이 큼. 아직 그걸 수익 흐름으로 바꾸는 방법을 찾았는지는 모르겠음
  • 실제로는 $0.000001을 잃고 있을 것 같음
  • 맞음. 둘은 매우 밀접하게 연결되어 있음
    http://prize.hutter1.net/
    서문과 FAQ, 그리고 모든 우승 항목이 이제 신경망이라는 점을 보면 됨
  • 인간 탓이라고 봄. 왜 많은 곳에서 불필요하게 긴 글쓰기를 요구하는지 이해가 안 됨

• 교수의 낙담에 대한 답은 꽤 단순하다고 봄. 많은 사람은 배우고 정신을 기르기 위해 대학에 있는 게 아니라, 잔혹한 사회적 다윈주의 경제 체제에서 살아남기 위해 대학에 있음
  Euler 각을 진심으로 공부하러 온 사람은 원래도 극소수였고, 나머지는 AI로 자동화될지도 모르는 직업을 얻기 위해 통과해야 하는 관문으로 봄
  조건 강화 관점에서 보면, 교수는 명백히 부정행위를 한 학생의 점수를 깎기만 하면 됨
  이론상 학생들은 그만두거나, 들키지 않을 정도로 잘하게 될 것임. 후자는 미래에 수요가 있는 기술일 수도 있음

  • 누구의 체제인가?
    부모가 “이 관문들을 통과하면, 어떤 회사에서 참깨를 갈아 1달러를 벌 때마다 우리가 2달러를 더 주겠다”고 말하는 건 이상하긴 함
    일하고 스스로 교육받는 건 괜찮고 존엄한 일 아닌가? 이게 나쁜 거래인가?
  • 사소한 정정: 그는 교수가 아니라 같은 학교에서 학부를 마친 대학원생이고, 대학 생활 대부분을 코로나 시기에 보낸 것으로 보임
    적어도 그의 페이지에는 그렇게 나와 있음: https://claytonwramsey.com/about/
    교수들도 실제 교육 훈련을 받는 건 아니지만, 이 사람도 제대로 된 교수법을 배운 것 같지는 않음
    결국 이 사람은 상당히 젊고, 그 글은 즉흥적인 강한 반응에 가까움. 그에 맞게 평가해야 함

• LLM을 쓰는 방법은 여러 가지가 있음
  문제는 어떤 사람들이 짧은 단발성 프롬프트를 던지고, 일반적이고 지루한 출력을 받는 데 있음. “쓰레기 입력, 일반적 출력”임
  내가 실제로 쓰는 방식은 생각을 쏟아내고 정리 도움을 받기, 표현과 문장 연결에 대한 피드백 받기, 비원어민으로서 톤과 스타일을 개선하되 개인성을 유지하려고 하기, 지저분한 문장을 단순화하기, 글의 누락이나 문제를 찾기 등임
  보통 반복 과정이고, 합쳐진 프롬프트 길이가 최종 결과보다 길어짐. 피드백도 수동으로 반영함
  누군가 “X에 대한 블로그 글을 써줘”라고만 입력한다면 프롬프트가 출력보다 더 흥미롭겠지만, 다섯 차례의 수정과 맥락이 있다면 정말 최종본 대신 모든 프롬프트와 초안을 읽고 싶겠는가?
  원한다면 여기 있음: https://chatgpt.com/share/6817dd19-4604-800b-95ee-f2dd05add4...

  • 참고로, ChatGPT에 처음 보낸 원래 댓글이 여기 올린 것보다 훨씬 나았음. 단순하고 진정성 있고 핵심적이었음
  • “톤과 스타일을 개선하고, 개인성을 유지하려고 하며, 지저분한 문장을 단순화한다”는 부분을 읽는 순간 오히려 이 글이 ChatGPT가 쓴 것 같다고 느꼈음
    참고로 ChatGPT에 준 초기 초안이 여기 올린 글보다 더 좋음
  • 원래 텍스트와 기능적으로 같은 것을 만들기 위해 왕복을 많이 했는데, 결과는 살짝 더 나빠졌음
  • 글의 요점을 문자 그대로 받아들인 것 같음. 저자가 말한 건 정말 프롬프트를 읽고 싶다는 뜻이 아니라, 당신이 하려는 말에 관심이 있다는 표현임
    이 점이 학생들에게 이해시키기 매우 어려움. 교사가 역사적 사건에 대해 글을 쓰라고 할 때, 그건 학위로 가는 의식 같은 게 아님
    목표는 정보를 모으고, 이해하고, 흡수하고, 읽은 것을 비판하고, 결국 자기 의견을 만드는 여러 능력을 향상시키는 데 있음
    “생각을 쏟아내고 LLM이 정리하게 한다”는 말은 정보를 실제로 흡수하는 능력을 기르는 데 관심이 없다는 뜻으로 들림
    내게는 흥미로운 사람이 되는 데 관심이 없다는 신호처럼 보임. 성숙도의 문제라고 생각하고, 언젠가는 이해하게 될 것임
    저자의 말도 결국 이거임. 내가 관심 있는 건 당신이 신경 쓰는 주제에 대해 당신이 할 말이지, 신경 쓰거나 알지 못하는 척하기 위해 할 수 있는 무엇이 아님
    스스로 생각을 정리할 수 없다면 아직 흥미로운 지점에 도달했다고 믿기 어렵고, 거기까지 가려면 연습이 필요함
    그런데 연습하지 않고 LLM을 쓰면 끝내 흥미로운 사람이 되지 못할까 걱정됨
  • 맞음. LLM은 기술이 필요한 도구임. 여기에 내가 추가로 쓰는 용도는 언어 XYZ로 번역임
    이것도 항상 간단하지 않아서 “어느 지역에 사는 사람들이 쓰는 언어로 번역해 달라” 같은 식으로 반복해야 할 때가 있음
    저자가 맞는 부분도 있음. 제2언어 사용자로서 LLM이 나보다 더 나은 글을 만들어 줌
    하지만 프롬프트는 외국어이고 초안 조각이 뒤섞여 독자에게 쓸모없으니 공유하지 않을 것임
    책 초안을 편집자와 번역가에게 넘기는 것에 가깝다고 봄

• AI가 나온 이후 계속 프롬프트 대 출력 비율을 생각해 왔음
  우리가 쓰는 시스템 특성 때문에 프롬프트가 출력보다 짧을 거라고 자연스럽게 가정하지만, 원하는 것을 더 구체화할수록 프롬프트는 길어지고 출력 크기는 그대로임
  에세이를 쓰는 대신 에세이에 담길 내용을 설명한다면, 그 설명은 필연적으로 에세이 자체보다 길어짐. 말할 내용을 설명하는 게 그냥 말하는 것보다 더 많은 텍스트를 요구하기 때문임
  더 적은 노력으로 더 많은 노력을 돌려받을 거라고 기대한다는 사실은 우리가 얻는 게 결국 채움말이라는 점을 보여줌
  그래서 프롬프트가 더 흥미롭고, 무엇을 써야 할지 몰라 프롬프트를 쓰기 시작했다가 그 과정에서 갑자기 말하려던 게 명확해진 경우가 많았음
  전반적으로 AI는 단순한 아이디어를 복잡하게 확장하는 것보다, 복잡한 아이디어를 단순하게 압축하는 데 훨씬 유용함

  • 그래서 이런 시스템이 소프트웨어 개발을 효과적으로 대체하기는 어려울 것임
    만들고 싶은 새로운 시스템을 영어로 충분히 정확히 명세해서 원하는 시스템을 정확히 얻을 정도가 되면, 차라리 코드를 썼어도 됨
  • 중요한 건 프롬프트와 출력의 비율이 아니라 출력을 얻는 속도라고 봄
    1시간 동안 500단어 프롬프트를 쓰고, 표의 행 같은 추가 데이터 X개를 붙였더니 LLM이 완벽한 답 X개를 돌려준다면, 내가 직접 그 글자를 입력했을 때보다 출력 비율이 나쁘다는 건 중요하지 않음
    중요한 건 그 1시간과 몇 분의 LLM 처리 시간 안에 일을 더 빨리 끝냈는지임
    프로그래밍과 비슷함. LLM을 쓰는 목적은 내가 직접 쓸 수 있는 코드보다 더 좋은 코드를 쓰는 게 아니라, 충분히 좋은 코드를 훨씬 빠르게 쓰는 데 있음
  • 맞음. LLM은 내 실수를 되비춰 주는 고무 오리가 될 수 있음
    다만 다른 사람들이 말했듯, 프롬프트가 우리가 생각하는 것만큼 흥미롭거나 반복적이지 않을 수도 있음. “과제는 이거고, 답은 뭐야”일 수도 있음

• 저자의 요지에는 전적으로 동의하지만, 학위를 얻는 데 따르는 경제적 조건과 장벽을 반박하기는 어려움
  대부분의 사람은 학위를 괜찮은 직장을 얻기 위한 관문으로 보고, 그건 경제적으로 자연스러운 일임
  안타깝게도 요즘 고용주들도 이런 복사·붙여넣기식 작업을 부추기고 있음. Meta와 Google이 새로 작성되는 코드 대부분이 AI가 만든 것이라고 말하는 걸 보라
  세상은 AI에 먹힐 것임

  • 측정하는 것을 얻게 되고, 사람들은 그 지표를 공략할 거라고 예상해야 함
    예전에는 가장 똑똑하거나 가장 부유한 사람만 대학에 갔으니, 대학 학위가 영리함의 대리 지표가 됐음
    이제 대학 졸업자가 좋은 직업을 얻으니, 모두에게 좋은 직업을 주는 방법은 모두에게 학위를 주는 것이 됨
    대부분의 사람이 학위의 바탕이 되는 학습에는 관심 없고 직업에만 관심 있다면, 결국 합격선과 마지막의 증명서만 신경 쓰는 학생들이 생김
    사람들이 게임을 하러 온 것뿐이라면, 그들이 배울 거라고 기대할 수 없음
    다만 90%가 눈앞의 기회를 놓쳐도, 10%는 그 기회를 붙잡고 골수까지 빨아먹을 것임
    대학에 있다면 제공되는 지식과 상호작용할 기회를 활용하길 권함. 대학은 모두에게 열려 있을 수 있지만, 그 안의 금을 보고 진짜 배우는 사람은 운 좋은 소수임
    게임은 최종 점수만이 전부가 아님. 훨씬 더 많은 것이 제공되어 있음
  • 그렇게 학위를 얻고도 실제로 아무것도 배우지 못한 채 취업 지원을 하고, 졸업을 도운 것과 같은 AI로 면접관을 속이려 할 것임
    LLM이 이미 LLM 없이는 작동하지 못하는 개발자의 첫 세대를 만들어냈을까 두려움
    업무 일부에 LLM을 쓰는 건 상관없지만, LLM 없이도 기능할 수 있어야 함
    모든 데이터를 AI 프롬프트에 넣을 수 있는 것도 아니고, 어떤 문제는 LLM으로 풀 수 없으며, 단순한 문제에서 생성된 코드나 설정에 의존하면 자신의 능력을 기르지 못함
  • 저자의 요지에 동의하지 않음. 세상은 이런 도구와 모델을 두 진영으로 나눠 받아들이고 있다고 봄
    Clayton의 “생성 모델 출력물보다 원래 프롬프트를 보고 싶지 않았던 적이 없다. 출력물은 프롬프트보다 실질이 적고 인간의 비전이 없다”는 결론에는 강하게 반대함
    우리는 AI로 이것을 만들었고, 창작자가 아니라면 원시 입력을 보고 싶지 않을 거라고 확신함
    https://www.youtube.com/watch?v=H4NFXGMuwpY
    AI 사용자는 두 부류로 나뉠 것임. AI를 완전한 종단 간 도구로 쓰는 사람과, 이미 하는 작업과 창의성을 강화하는 도구로 활용하는 사람임
    후자는 분명히 AI의 훌륭한 사용 사례임
  • 학위를 기준으로 채용하는 쪽도, LLM으로 학위를 얻는 사람들보다 더 나을 게 없기 때문임
    어쩌면 학생 평가 방식에 큰 변화를 강제할 수도 있음. 에세이를 제출한 뒤 교사가 그 주제에 대해 대화를 나눠, 실제로 얼마나 흡수했는지 확인해야 할지도 모름
    아니면 LLM이 모든 걸 더 나쁘게 만들 뿐일 가능성이 더 크다고 봄

• 강사가 학생에게 그저 강사의 텍스트를 되풀이하게 하는 질문을 던지고 있기 때문에 생기는 일임
  제대로 가르치려면 이렇게 해야 함
  “Tinkertoys로 만든 작은 더미 로봇 팔이 있다. 회전 베이스, 어깨, 팔꿈치라는 세 개의 각도 관절이 있고, 각 관절에는 각도를 볼 수 있는 각도기가 있다”

  1. 이 세 각도를 바탕으로 팔 끝이 어디에 있을지 계산한다. 이것이 Euler 각의 실제 작동 방식이며, 그리 어렵지 않음
  2. 테이블 위 특정 지점을 닿게 하려면 각도가 어떻게 되어야 하는지 계산한다. 이 로봇 구조에는 단순한 해법이 있고, “two link kinematics”를 찾아보면 됨. 유도할 필요는 없고 원하는 위치로 팔을 보내는 법을 계산할 수 있으면 됨. 해가 유일한가? 힌트: 해가 둘 이상일 수 있지만 많지는 않음
  3. 추가 과제: 손목 관절을 하나 더 붙인다. 이제 테이블 위 특정 지점을 닿게 하려면 각도가 어떻게 되어야 하는지 계산한다. 세 관절은 두 관절보다 훨씬 어렵고, 해가 무한히 많음. “N-link kinematics”를 찾아보고, 작동하는 단순한 해법을 만들되 최적화하려고 너무 애쓰지는 말라. 그건 최적 제어 과목에서 다룰 일임
     이렇게 하면 이 문제들이 실제로 어떤 의미인지 제대로 이해하게 됨
  • LLM이 그걸 못 하나? 조금 놀라움
    로보틱스는 전혀 모르지만 꽤 흔한 과제처럼 들리고, LLM이 다른 사람 숙제를 되뱉을 만한 종류로 보임
  • 아주 잘 말했음. 그건 나쁜 과제임
    한 학생이 그렇게 한다면 그 학생이 문제일 수 있지만, 90%가 그렇게 한다면 과제가 잘못됐다고 봄

• LLM이 나오기 한참 전에도 가르친 적이 있는데, 복사·붙여넣기한 쓰레기 제출물이 많았음
  항상 0점을 줬고, 표절이라고는 말하지 않았음. 표절로 처리하려면 대학 행정 절차가 필요했기 때문임
  대신 “X를 요구했는데, 붙여넣은 말도 안 되는 걸 냈다”고만 코멘트했음
  LLM 출력물이 지금 같은 수준인 한, 과제에서 실제로 경쟁력을 가질 위협은 별로 없음
  학생이 자기 목소리로 바꿔 쓸 만큼 주의 깊다면 오히려 성공이라고 보겠음. 데이터 라벨링 외주업체가 RLHF로 다듬은 LLM의 쓰레기를 그대로 제출하면 그냥 0점을 주면 됨

  • 여기서는 저자도 문제의 일부임. 학생들이 ChatGPT 헛소리를 제출해도 넘어가게 두면 당연히 그렇게 함
    학생들은 블로그의 3000단어짜리 감정 호소에는 관심 없고, 가장 저항이 적은 길을 택함
    전체 과제에 줄을 긋고 큰 빨간 글씨로 “ChatGPT 헛소리, 0점”이라고 써서 돌려줄 의지가 없다면, 애초에 과제의 목적이 무엇인지 스스로 물어봐야 함
    다만 이해는 됨. 대학은 학생에게 돈 내고 학위를 따는 구조가 되었고, 교수들은 행정가들 앞에서 어떤 기준이나 규율도 집행할 힘을 잃었음
    그래서 할 수 있는 건 ChatGPT 쓰레기에 최소 합격점을 주고, 학생들이 절대 읽지 않을 블로그에서 철학을 늘어놓는 것뿐임
  • Matlab 시험을 감독하고 채점했을 때 딱 이렇게 했음
    명백한 부정행위였음. 예를 들면 잘못된 코드로 정답을 얻는 경우임
    하지만 부정행위로 고발하는 행정 절차를 밟을 생각은 없었고, 그냥 0점을 줬음
  • LLM을 썼다고 의심받는 학생이 이의를 제기하지 않을 거라고 가정하는 건가?
    맞는 답에 0점을 주면 성공적인 민원이나 항소로 이어질 것 같음
  • 어릴 때 학교에서 정말 독창적인 아이디어로 원래 에세이를 썼음
    하지만 새로운 아이디어에는 실패 가능성이 있고, 그래서 대부분 별로였고 낮은 점수를 받았음
    어떻게 해야 할지 몰라 곧 지정 도서를 읽지 않고 Wikipedia 요약과 다른 사람 리뷰를 바탕으로 에세이를 쓰기 시작했음
    처음 A와 A+를 받고, 평균 수준의 독창적 글조차 사람들의 절반은 너무 이해력이 낮아 알아듣지 못한다는 걸 깨달았음
    문학에서 아이디어가 진짜 지적이라고 인정받으려면, 실제로 읽은 내용을 기억하지 못하는 사람들에게도 매력적이어야 함
    지식 있고 똑똑한 사람에게도 비슷한 정보의 바다가 시야를 흐림

• 수업 글쓰기 과제의 목적은 텍스트 산출물을 만드는 것이 아니라 학생이 생각하게 만드는 것이어야 함. 언어 모델은 전자는 만들지만 후자는 만들지 못함
  교육과 학계에서 많은 똑똑한 전문가와 학자들이 이걸 이해하지 못하는 모습을 보는 건 매우 절망적임
  그들은 일을 단순한 출력물 생산으로 보고, 그 과정이 지식·기술·경험을 어떻게 쌓는지는 생각하지 않음
  가장 모르는 학생들은 글쓰기나 문제 해결의 목적, LLM의 한계를 이해하지 못한 채 LLM에 끌려가며 몇 년을 낭비하고 있음
  때로는 수십만 달러를 들여 뇌를 퇴화시키고 종이 한 장만 얻은 뒤, 훨씬 더 열린 문제가 나오고 LLM의 문제 해결 품질이 크게 떨어지는 현실 세계를 마주하게 됨
  실제로 스스로 문제를 붙잡고 배우는 사람은 장기적으로 엄청난 우위를 갖게 될 것임

  • 잘 맞는 비유를 본 적 있음. LLM으로 학교 과제를 하는 건 지게차를 타고 헬스장에 가는 것과 같음
    우리가 관심 있는 게 무게를 옮기는 것뿐이라면 도구를 쓰는 게 맞음
    하지만 이 작업은 당신에게 생길 효과 때문에 하는 것임. 교사가 질문하는 이유는 답을 몰라서가 아님
  • 나는 학위를 따러 거기 있는 것임
    배우고 자료에 몰입하고 싶다면 6만 달러를 아끼고 온라인에서 무료로, 아마 더 효율적으로 할 수 있음
    수업 글쓰기 과제의 목적은 대학이 나에게 학위를 주게 만드는 것임
    실제로 자료를 배운다고 해서 학위를 얻을 수 있는 게 아니고, 교수들이 세운 관문을 통과하고 막대한 등록금을 내야만 가능함
    실제로 배운 뒤 그 사실에 대한 유효한 취업 가능성 인증을 받을 수 있는 다른 시스템이 있다면 좋겠지만, 교수들이 탐나는 취업 가능성 증명서의 문지기인 한 이런 인센티브 문제는 계속될 것임
  • 숲 때문에 나무를 놓치고 있음
    어릴 때 “반지의 제왕에서 왜 선한 세력이 이겼는가”라는 에세이 과제를 받았을 때, 실제로 소설을 읽었는지 확인하려는 관문이었음
    선택지는 세 가지였음. 소설을 읽고 직접 에세이를 쓰기, 이미 쓰인 에세이를 찾기, 친구 에세이를 템플릿으로 받아 다시 쓰기였음
    인터넷 이전에는 이미 쓰인 에세이를 찾는 것도 쉽지 않았지만, 흔한 주제에 대한 에세이 책은 있었고 교수에게 들키거나 누군가 같은 출처를 쓸 위험이 있었음
    A와 C는 적어도 소설에 대해 배우고 글쓰기 실력을 다듬게 해 줬음
    오늘은 한 번도 들어본 적 없는 소설에 대해 ChatGPT에게 4쪽짜리 에세이를 쓰게 하고 끝낼 수 있음. 그 과정에서 얻는 가치는 없음
    단순한 예지만, 프로그래밍에도 똑같이 적용됨. 초보 프로그래머는 LLM이 어려운 작업과 모르는 언어를 다룰 힘을 준다고 주장하겠지만, 그 경험에서 기술이나 지식을 얻고 있지는 않음
    Google Maps에 Prague에서 Brussels까지 길을 찾아 달라고 하면 목적지까지 안내하는 회전 목록은 주지만, 그 과정에서 독일의 지형을 배웠다고 주장할 수는 없음
  • ChatGPT가 2023년 초에 폭발적으로 퍼졌을 때부터, 교육자들이 교육 방식을 다시 생각해야 한다는 건 명백했음
    저자가 묘사한 상황이 불만족스럽다는 데는 동의하지만, 대부분은 교육 시스템, 더 나아가 글쓴이의 책임
    그런 수업 글쓰기 과제라면 학생들이 LLM을 쓰는 건 당연함. 반 친구들이 쓰고 있다면 안 쓰는 쪽이 어리석음
    교육자가 가르치는 방식과 평가 방식을 재구성해야 함. 저자가 이걸 못 보는 게 이상함
    대학과 학교는 AI에 대해 운영 방식을 바꿔야 하며, 그렇지 않으면 학생들을 실패하게 만드는 것임
    AI가 사회에 잠재적·현실적 문제를 많이 갖고 있다는 건 알지만, 제대로 받아들이면 교육 경험을 긍정적으로 바꿀 가능성도 있음
  • 이런 불평은 적어도 두 가지 이유로 외면당할 것 같음
    첫째, 학생들은 붙잡힌 청중임. 거기 있고 싶지 않은데 법이 그렇게 하게 만듦
    의무교육을 지나서도 마찬가지임. 관성에 의해 상급 교육으로 밀려왔고, 실제 선택권이나 대안이 있다는 걸 깨닫지 못했음
    둘째, 수업에서 기르는 많은 기술이 실제로는 쓸모없음
    제2언어인 영어 수업에 많은 시간을 썼지만, 실제로 언어를 가르쳐 준 건 인터넷 사용이었음. 후반부 영어 수업은 그냥 바쁜 척하는 일이었음
    모국어 수업에서도 에세이를 꽤 많이 써야 했지만, 유용했던 건 그 수업의 기말시험뿐이었음
    그 이후로 “진짜” 에세이를 쓴 적이 없음. 설령 쓴다 해도 아마 영어로 쓰고, 포럼 글에서 배운 다른 스타일을 쓸 것임